OpenAI AGI準備工作團隊解散：長期政策研究員離職，前員工稱一直違反版權法
鞭牛士報道，10月24日消息，據外電報道，OpenAI 長期政策研究員、公司 AGI 準備團隊高級顧問 Miles Brundage 已離職。
布倫戴奇在週三 X 上的一篇文章以及他的時事通訊中的一篇文章中表示，他認爲作爲一名研究員和非營利領域的倡導者，他將產生更大的影響力，在那裡他將更有能力自由發表文章。
「做出這一艱難決定的部分原因是，在 OpenAI 工作是一個極具影響力的機會，現在比以往任何時候都更具影響力。」Brundage 說道。「OpenAI 需要那些深切關心使命並致力於維持嚴格決策文化的員工，這些文化涉及開發和部署（包括內部部署，這將隨着時間的推移變得越來越重要）。」
隨着 Brundage 的離職，OpenAI 的經濟研究部門（直到最近還是 AGI 準備工作的一個子團隊）將由 OpenAI新任首席經濟學家Ronnie Chatterji 領導。
Brundage 表示，AGI 準備工作團隊的剩餘成員（即將解散）將分配到 OpenAI 的其他部門。任務協調負責人 Joshua Achiam 將負責 AGI 準備工作的一些項目。
OpenAI 的一位發言人告訴 TechCrunch，公司全力支持布倫戴奇在行業之外進行政策研究的決定，並對他的貢獻深表感謝。
發言人在一份聲明中表示：布倫戴奇計劃全力投入人工智能政策的獨立研究，這讓他有機會在更大範圍內產生影響，我們很高興能從他的工作中學習並關注其影響。”“我們相信，邁爾斯在新的職位上將繼續提高行業和政府政策制定的質量。
該發言人並未透露誰將接替布倫戴奇的職責。
布倫戴奇於 2018 年加入 OpenAI，最初擔任研究科學家，後來成爲該公司的政策研究主管。在加入 OpenAI 之前，布倫戴奇曾擔任牛津大學人類未來研究所的研究員。
在 AGI 準備團隊中，Brundage 特別關注ChatGPT等語言生成系統的負責任部署。他還領導了其他項目，包括 OpenAI 的外部紅隊計劃及其首份記錄 AI 模型能力和侷限性的“系統卡”報告。
近年來，OpenAI 的一些前員工和董事會成員指責該公司將商業產品放在首位，而犧牲了 AI 安全。在 X 的帖子中，Brundage 敦促 OpenAI 員工暢所欲言，討論公司如何做得更好。
他寫道：有些人對我說，他們對我的離開感到難過，並且感謝我在任期間經常願意提出顧慮或問題……OpenAI 面臨着許多艱難的決定，如果我們屈服於集體思維，就無法做出正確的決定。
由於對公司發展方向的分歧，OpenAI 最近幾週一直在裁員。首席技術官 Mira Murati、首席研究官 Bob McGrew 和研究副總裁 Barret Zoph 於 9 月底宣佈 辭職。著名研究科學家 Andrej Karpathy 於 2 月離開 OpenAI；幾個月後，OpenAI 聯合創始人兼前首席科學家 Ilya Sutskever 和前安全負責人 Jan Leike也辭職了。8 月，聯合創始人 John Schulman 表示將離開 OpenAI。而公司總裁 Greg Brockman 正在延長休假。
對於 OpenAI 來說，這是相當不愉快的一天。
週三上午，該公司成爲《紐約時報》對前 OpenAI 研究員蘇吉爾·巴拉吉 (Suchir Balaji) 的專題報道的主角。
巴拉吉表示，他離開公司是因爲他不再想爲他認爲會給社會帶來更多傷害而非好處的技術做出貢獻。巴拉吉還指責 OpenAI 未經許可使用受知識產權保護的數據訓練其模型，侵犯了版權——其他人在集體訴訟中對該組織提出了這一指控。
他在個人博客中寫道，他認爲該公司沒有遵守美國版權法。越來越多的人認爲，這家科技巨頭的數據收集業務建立在不可靠的（甚至明顯不合法的）法律基礎之上，他就是其中的一員。
蘇希爾·巴拉吉 (Suchir Balaji) 最近告訴《紐約時報》 ： 如果你相信我所相信的東西，你就必須離開公司。
25 歲的加州大學伯克利分校畢業生巴拉吉於 2020 年加入 OpenAI，隨後繼續從事 GPT-4 工作。
他說，他最初對從事人工智能行業感興趣是因爲他認爲這項技術可以用於解決無法解決的問題，比如治癒疾病和阻止衰老。
巴拉吉在 OpenAI 工作了四年，今年夏天離開了公司。現在，巴拉吉說，他看到這項技術被用於他不贊同的事情，並認爲人工智能公司“正在破壞個人、企業和互聯網服務的商業可行性，而正是這些數字數據創造了用於訓練這些人工智能系統的數字數據”，《紐約時報》寫道。
本週，巴拉吉在他的個人網站上發佈了一篇文章，他認爲 OpenAI 違反了版權法。在文章中，他試圖展示人工智能系統訓練數據集中有多少受版權保護的信息最終進入了模型的輸出。
巴拉吉從分析中得出的結論是，ChatGPT 的輸出不符合“合理使用”的標準，即允許在未經版權所有者許可的情況下有限使用受版權保護的材料的法律標準。
巴拉吉後來在談到人工智能商業模式引發的法律問題時告訴《紐約時報》：解決這一切的唯一出路就是監管。
Gizmodo 聯繫了 OpenAI 以徵求意見。在提供給《紐約時報》的一份聲明中，這家科技公司對 Balaji 的批評提出瞭如下反駁：我們使用公開數據構建我們的人工智能模型，以公平使用和相關原則保護的方式，並得到長期和廣泛接受的法律先例的支持。我們認爲這一原則對創造者公平，對創新者必要，對美國競爭力至關重要。
值得注意的是，《紐約時報》目前正在起訴 OpenAI未經許可使用其版權材料。
《紐約時報》聲稱，該公司及其合作伙伴微軟曾使用該報的數百萬篇新聞文章來訓練其算法，該算法此後一直試圖爭奪同一市場。
該報並非孤例。OpenAI 目前遭到衆多名人、藝術家、作家和程序員的起訴，他們都聲稱自己的作品被該公司的數據竊取算法竊取。
起訴 OpenAI 的其他知名人士/組織包括Sarah Silverman、Ta-Nahisi Coates、George RR Martin、Jonathan Franzen、John Grisham、調查報道中心、The Intercept、多家報紙（包括《丹佛郵報》和《芝加哥論壇報》）以及各種 YouTube 用戶等。
儘管公衆既困惑又不感興趣，但批評人工智能行業商業模式的人卻越來越多。名人、技術倫理學家和法律專家都對這個行業持懷疑態度，因爲它的權力和影響力不斷增長，同時給世界帶來了新的法律和社會難題。