OpenAI解散AGI團隊 | 最前線

文 | 田哲

編輯 | 蘇建勳

OpenAI再次傳出新的變動。

近日外媒報道，OpenAI正在解散其“AGI Readiness”團隊，團隊成員將分配至內部其它團隊。

AGI全稱爲Artificial general intelligence，即通用人工智能，它具備自主的感知、認知、決策、學習、執行和社會協作等能力，且符合人類情感、倫理與道德觀念。AGI Readiness團隊負責向OpenAI提供AGI發展的政策建議，並進行安全監督。

AGI Readiness團隊解散的原因是其負責人離職。本週三，AGI Readiness負責人Miles Brundage宣佈離職，計劃在OpenAI之外繼續從事該領域研究工作，並希望減少偏見。他表示，他已在OpenAI完成所有工作，在外部工作將產生更大的影響。

Miles Brundage

在他看來，OpenAI及世界還未做好準備迎接AGI的到來，因此他計劃創建自己的非營利組織，專注於人工智能政策研究和宣傳。

相比人工智能產品不斷迭代增加，OpenAI對於人工智能的安全建設相對遲緩。2023年7月，成立8年的Open.AI才組建“超級對齊”團隊，目標是用20%的算力，在未來4年內解決控制超級智能AI的核心技術挑戰。

然而成立不到一年，“超級對齊”團隊隨着OpenAI 聯合創始人、首席科學家Ilya Sutskever離職而解散。

Ilya Sutskever在社交媒體解釋了離職原因，他表示：“製造比人類更聰明的機器本身就是一項危險的事業。OpenAI代表全人類肩負着巨大的責任。但在過去幾年裡，安全文化和流程已經讓位於閃亮的產品。”

同一時期離職的“超級對齊”團隊聯合負責人Jan Leike，也提到類似意見。他認爲，應該把更多的帶寬用於爲下一代模型做好準備，包括安全性、監控、準備、對抗魯棒性、一致性、保密性、社會影響等，但是OpenAI與他的想法並不一致，團隊所需資源不夠，研究進展緩慢。

OpenAI是世界上估值最高的人工智能初創公司之一，今年10月，OpenAI獲得史上最大一輪融資，融資金額高達66億美元，這使其估值飆升至1570億美元。

OpenAI備受資本市場重視的原因，除了其具備領先的生成式AI技術之外，也出於其背後龐大的市場閨蜜，據預計，這一市場未來十年內將產生超萬億美元收入。

一份媒體獲得的OpenAI財務數據文件顯示，OpenAI的8月收入同比去年增長3倍，預計今年ChatGPT將產生27億美元收入，去年這一數字爲7億美元。

在商業之路狂奔的OpenAI，似乎已將人工智能安全拋之腦後，而OpenAI 2015年成立時的目標卻是，開發AI技術以“造福全人類，不受財務回報需求的限制。