FOREXBNB獲悉,一位已辭職的OpenAI團隊負責人稱,科技巨頭微軟(MSFT.US)斥巨資支持的OpenAI正在解散其聚集於AI安全研究的“AGI Readiness”團隊,该團隊曾经负责向这家AI新創公司提供如何處理與應對越來越強大的AI技術方面的解決方案與建議,以及提供當今世界是否準備好管理這些技術方面的建議。“AGI Readiness”團隊曾经的團隊主管表示,希望在外部繼續AGI領域的相關研究。近期越來越多跡象表明,OpenAI似乎全心投入AIOK繃,無瑕顧及AI安全。
OpenAI的經濟研究團隊,直到最近還是由帕梅拉·米甚金領導的AGI Readiness的一個重要子團隊,後續將由OpenAI的新任首席經濟學家羅尼·查特吉全面領導。同時,AGI Readiness的高級顧問邁爾斯·布倫戴奇在Substack貼文宣布離職時表示,剩下的AGI Readiness團隊將被分配到其他團隊。
布倫戴奇表示,他離開OpenAI的主要原因包括機會成本變得非常高。布倫戴奇指出:“需要明確的是,雖然我不會說我總是同意OpenAI在公開發行方面的長期立場,但我確實認為在業界存在一些公開發行層面的限制是合理的(我幫忙撰寫了OpenAI政策的幾個重要版本),但對我來說,這些限制已經非常多了。”
布倫戴奇也表示,他希望減少偏見,並且強調他已經完成了他在OpenAI的目標。另外,布倫戴奇計劃創辦自己的非營利組織或加入現有的非營利組織,專注於人工智慧安全政策研究以及人工智慧宣傳推廣工作。
“我們完全支持邁爾斯本人在業界之外從事政策研究的決定,並深深感謝他的貢獻。他計劃全力以赴地進行人工智慧政策的獨立研究,這使他有機會在更大範圍內產生影響,我們很高興能從他的工作中學習到很多內容並關注其影響,”OpenAI發言人在給Seeking Alpha的電子郵件聲明中表示。
關於OpenAI和世界對通用人工智慧(AGI)的準備狀況,布倫戴奇公開表示:“簡而言之,OpenAI和其他前沿的人工智慧實驗室都沒有做好準備,世界也沒有做好準備。”
根據媒體揭露資訊的匯總,這已經不是OpenAI第一次解散與AI安全密切相關的團隊。有媒體報道稱,在今年7 月,OpenAI 將公司最高層安全主管之一亞歷山大·馬德里重新分配到人工智慧推理的研究工作。據報道,民主黨參議員曾經致函OpenAI執行長薩姆·奧特曼,詢問OpenAI如何解決新出現的人工智慧安全問題,而重新任命馬德里的決定就是在這個時候所做。
另外,在更早前的今年5月,OpenAI決定解散剛成立一年的“超對齊”團隊(Superalignment team),该團隊专注于AI的長期風險。
據了解,OpenAI於去年成立的“超對齊”團隊,專注於“科學和技術突破,以引導和控制比人類更智慧的人工智慧系統”。该團隊在5月被解散,領導人Ilya Sutskever和Jan Leike接連宣布離職。Leike在X上發文稱,OpenAI的“安全文化和流程,已讓位給光鮮亮麗的產品”。
OpenAI似乎全心投入AIOK繃,無瑕顧及AI安全
近期多個跡象顯示,生成式AI領域的領導者OpenAI致力於在滿足全球各國對於人工智慧的監管規則的這一前提下,全心投入利用該公司所研發的全球最強大AI大模型實現巨額營收,似乎全然無暇顧及AI安全。
據悉,OpenAI近日宣布,已經聘請前優步高管斯科特·斯庫爾斯(Scott Schools)擔任該公司的首位“首席合規官”,以支持這家人工智慧新創公司努力適應圍繞人工智慧技術發展的新興全球監管法規。此次重要的高階主管招募正值大西洋兩岸的監管機構圍繞OpenAI和其他科技公司最先進的人工智慧大模型製定監理政策之際。
成功招募來前優步首席道德與合規官,被媒體解讀為其在全球人工智慧業務擴張和應對日益複雜的全球人工智慧監管環境中做出策略性的調整。隨著全球對人工智慧技術的監管趨嚴,OpenAI正在積極採取措施,以確保其各項業務未來能夠在全球範圍合規運作並滿足各國的人工智慧監管法規要求。
有觀察家指出,此舉顯示出OpenAI的全球擴張雄心,並強調合規性是其進入新市場的關鍵一環。隨著AI科技在全球多個產業的普及,如何在合規和創新之間取得平衡,避免人工智慧法規風險,是公司全球擴展的核心挑戰。毫無疑問,斯庫爾斯的加入將使OpenAI能夠更好地處理不同國家的人工智慧監管要求,從而為其各項業務進入除北美以外的更多市場奠定基礎。
除了聚焦全球圍繞人工智慧發展的複雜監管環境,OpenAI近期還在加速推進“高品質內容取得途徑合法化”,為其全球性的業務擴張奠定重要基礎。其中包括與全球多元化媒體巨頭赫斯特 (Hearst Communications Inc.) 達成一項重要協議,將這家新聞與商業資訊出版商的雜誌和報紙內容引入該所公司所開發的風靡全球的AI聊天機器人——ChatGPT,這項協議可謂為這家人工智慧新創公司與全球頂級媒體公司們簽署的一系列合作協議添加重要一筆。
透過獲得來自多元化媒體巨頭赫斯特等頂級媒體的正式授權內容,OpenAI的AI聊天機器人產品經訓練優化後將能提供更多高品質內容,且能夠引用經過專業審核的版權內容進行推理分析。這不僅大幅增強了ChatGPT的內容輸出質量,也使得其內容更具可信度,吸引全球範圍內的更多用戶信任其產生的信息,進而實現訂閱營收成長。
AI新創公司OpenAI的估值目前领跑全球所有新創公司,OpenAI在10月早些時候宣布,該公司已籌集到66億美元的最新資金支持,這使其最新的估值達到驚人的1570億美元。OpenAI在部落格中表示,這筆新資金將使該生成式人工智慧公司加大對AI研究的領導地位、增加運算能力,並“繼續開發幫助人們解決複雜問題的工具”。媒體引述知情人士的話報導,微軟在此次融資中投入約7.5億美元,進一步加碼其先前的130億美元投资规模。
非營利性質的OpenAI執著於拓展更多營收途徑的背後,可能在於OpenAI迫切需要更多資金來進行大模型訓練迭代,以及需要更龐大的AI GPU算力體系來支撐其推理功能癒發強大的AI大模型(例如近日推出的推理能力無與倫比的o1-previews),其在資本市場所融到的資金可能不足以滿足OpenAI愈發龐大的“燒錢預期”。
有預測數據顯示,預計OpenAI需要到2029年才能實現年度獲利,并且預計到本十年末,不計股票薪酬,OpenAI將耗資約2000億美元,預計2023年至2028年的虧損總額將達到440億美元。這份預測報告顯示,OpenAI的大部分開支是面向大模型訓練迭代以及推理算力逐年劇增,預計到2026年,OpenAI每年的成本將高達95億美元。根據該報告,該公司超過2000億美元的开支中預計60%至80%將用於訓練迭代以及支援大模型癒發強大的推理能力。