OpenAI前員工辭職爆內幕：不想爲AI泰坦尼克號工作

鞭牛士報道，7月12日消息，據外電報道，OpenAI 前僱員、公司超級對齊團隊成員威廉·桑德斯 (William Saunders) 最近透露，他之所以辭職，是因爲他覺得公司正走向悲劇，就像 1912 年命運多舛的皇家郵輪泰坦尼克號一樣。

據《商業內幕》報道，桑德斯在科技記者亞歷克斯·坎特羅維茨的播客節目中發表了他的評論。

桑德斯告訴坎特羅維茨，他在 OpenAI 任職的三年期間，有時會問自己，公司走的道路是更像阿波羅計劃，還是更像泰坦尼克號。

他的理由似乎是，通過謹慎的科學努力，阿波羅太空計劃儘管遭遇挫折但仍然取得了成功，而泰坦尼克號儘管取得了成功但最終還是失敗了。

他表示，爲了確保船隻安全，建造防水艙室，他們付出了很多努力，因此可以說這艘船不會沉沒。但與此同時，救生艇的數量卻不足以滿足所有人的需求。

桑德斯將公司的總體精神描述爲：產品開發比實施合理的安全預防措施更重要。

他描繪了這樣一種辦公室景象：提出安全問題的員工會受到懲罰，而領導層只關注利潤。

「隨着時間的推移。」桑德斯說，「我開始真正感覺到領導層做出的決定更像是白星航運公司建造泰坦尼克號。」

桑德斯並不是第一個不同意 OpenAI 經營方式的人。該公司的聯合創始人之一埃隆·馬斯克 (Elon Musk) 最近起訴 OpenAI，稱其偏離了最初的使命太遠。儘管馬斯克多年來一直與 OpenAI 沒有任何關係，目前經營着自己的直接競爭對手 xAI，但訴訟仍然沒有成功。該訴訟隨後被撤回。

競爭對手 AI 公司 Anthropic 由前 OpenAI 員工和聯合創始人於 2021 年創立，原因是人們擔心 OpenAI對信任和安全關注不夠。

然而，另一方面，另一位現已疏遠的聯合創始人兼前首席科學家伊利亞·蘇茨克韋爾 (Ilya Sutskever) 於 2024 年 5 月離開公司，創辦了自己的公司。 他當時寫道，他相信OpenAI 團隊能夠安全地實現其目標。

有如此多的員工跳槽，而且至少有一人拿泰坦尼克號來比喻，那麼當前的問題是：誰或者什麼是冰山？

如果比喻中的乘客是我們——全人類——那麼冰山就代表着 ChatGPT 和類似系統對毫無準備的社會構成的生存威脅。如果人工智能變得比我們更聰明、更有能力，而我們沒有足夠的救生艇來保護每個人免受其潛在傷害，那麼我們可能會走向悲劇。

但如果乘客是股東和利益相關者，等待 OpenAI 創造出與人類一樣聰明的人工智能，而這永遠不會發生，那麼也許這座冰山代表着生成人工智能泡沫的破滅。