Sam Altman達沃斯訪談全文：未來最重要的資源是算力和能源
來源｜騰訊科技
騰訊科技訊 1月17日消息，據外媒報道，美國當地時間週二，在瑞士達沃斯參加2024年度世界經濟論壇期間，人工智能初創公司OpenAI首席執行官山姆·奧特曼以及全球事務副總裁安娜·馬坎朱接受了彭博社記者布拉德·斯通的專訪。在訪談期間，他們分享了關於OpenAI下一代大模型的進展、美國大選期間AI技術該被如何使用、通用人工智能（AGI）的未來、去年11月的人事劇變以及監管法規的制定等話題。
以下爲專訪全文實錄：
問：今天你們發佈了關於在選舉中使用AI的新準則，這是達沃斯論壇上備受矚目的議題。你們禁止在政治活動中使用ChatGPT，還引入了加密水印或圖像，旨在提高使用AI生成圖像的透明度。這些準則由像Facebook、TikTok以及YouTube這樣的大平臺共同制定並努力實施。你們是如何確保這些原則得到實施的呢？
馬坎朱：這些原則的實施並非易事，但我們已經在這方面努力了很長時間。我們擁有一個強大的安全系統團隊，他們不僅具備監控能力，還能夠利用我們的工具來提升執行力。這爲這件事提供了很大的優勢。同時，我們也與美國聯邦和各州政府建立了合作關係，這樣我們就可以獲得權威的投票信息。因此，我們有多種方法來執行這些原則。
問：山姆，你是否認爲這讓足夠你放心？不會讓OpenAI在即將到來的2024年關鍵的民主選舉中產生影響？
奧特曼：不，我們仍然非常關注這個問題，我認爲不能掉以輕心。這是好事，有焦慮感也是件好事，我們會盡一切努力讓它變得儘可能正確。我認爲我們的角色與內容分發平臺的角色截然不同，但仍然很重要。我們需要與他們合作。你在這裡生成內容，在那裡分發內容，整個過程之中都需要進行良好的溝通。但我們也從之前的技術週期中學到了一些經驗。我認爲不能把上次那樣的錯誤再犯一回（編者：應指Facebook干預投票的劍橋公司事件），但我們確實從中吸取了一些教訓。所以如果我說我不擔心，感覺很好，那將是可怕的事。我們一定會密切關注今年發生的事情，進行超級緊密的監控和反饋循環。
問：安娜，你在Facebook和OpenAI都工作過，所以我問這個問題可能有點挑釁。但你是否擔心會出現另一個劍橋分析公司事件？
馬坎朱：我認爲正如奧特曼所提到的，我們可以從中學到很多經驗。從一開始，OpenAI就是一家致力於解決這些問題的公司，這也是它成立的重要原因之一。因此，我們團隊在開發這些工具（即生成式模型）時就已經深思熟慮地考慮這個問題了，這緩解了我很大部分的緊張。
問：山姆，唐納德·特朗普昨天剛剛贏得了艾奧瓦州的黨團會議選舉。我們現在面臨大選即將到來的現實。你認爲對於科技和人工智能的安全管理來說，在美國大選裡什麼是最重要的？你是否覺得這是一個選民應該會在這次選舉中考慮的關鍵問題？
奧特曼：針對當前的形勢而言，我們之前並未預料到特朗普的言論能引起部分人如此大的共鳴。我到這兒的兩天裡，艾奧瓦州的選舉現在都成了達沃斯論壇的討論中心了。所以如果我們早點對大選進行深入反思，或許能減輕現在的壓力。但我們必須認識到，這次選舉涉及的關鍵議題遠不止這些。
選舉無疑是一個重大的事件。但不論選舉結果如何，我堅信美國會繼續穩健前行。同樣，不論選舉結果如何，人工智能的發展也將繼續。我們仍需付出巨大的努力來確保這一點。然而，我認爲我們尚未真正吸取教訓，真正理解什麼對美國公民有利，什麼會帶來潛在的風險。
問：安娜，我想問你同樣的問題。考慮到你的政治背景，你認爲硅谷和AI在美國大選中面臨什麼風險？
馬坎朱：讓我感受很深的是，關於人工智能的討論仍然非常兩極化。讓我感到擔心的是……
奧特曼：兩黨都恨它。
馬坎朱：哈哈哈哈，對。然而，我瞭解到在這個領域中，共和黨人傾向於採取一種更爲開放的態度，他們不太贊成過度監管。但值得肯定的是，無論是共和黨還是民主黨，都認爲這項技術需要一定的規範和引導。參議員舒默與共和黨同僚在這方面展開了跨黨派合作，共同推進相關立法工作。在與華盛頓的各方人士交流時，我感覺到現在兩黨在這個問題上已經達成了一致意見。
問：你是否覺得現有的競選活動在關於人工智能的問題上表達得同樣清楚？
馬坎朱：到目前爲止，人工智能確實已經成爲競選議題。因此，如果我們關於即將發生的事情是正確的，這將是一件有趣的事情。
奧特曼：如果我們的認知是對的，那這場技術革命的重要性無可比擬，從某種意義上說，它與以往的所有技術或社會革命都有所不同。它不僅是一個技術問題，更是一個社會問題、政治問題。儘管這項技術已經在某些領域產生了深遠的影響，但令人感到奇怪的是，它還沒有成爲主流社會關注的焦點。然而，隨着今年將要發生事情，這裡不是說選舉，而是AI產品能力的持續提升，人們會慢慢意識到當前已經發生了什麼和正在發生什麼。
問：在美國和全球範圍內，像唐納德·特朗普這樣的政治人物已經敏銳地抓住了公衆的焦慮情緒，包括對科技發展帶來的脫節感、工人階級的憤怒、以及日益加劇的社會不平等。AI技術的發展，是否會進一步加劇這些社會問題呢？
奧特曼：是的，這是一個非常重要的問題，值得我們深入思考。但令人欣喜的有利方面是，當我們在研發技術、進行科學研究時，我們總是說，我們會遵循科學的指引，當產品問世時，我們會說，它將會與社會共同進步，我們會跟隨用戶的反饋進行改進。然而，我們只能在某種程度上駕馭這種力量。
有些事情是不可避免的，技術的潛力和人們的使用方式往往會超出我們的預期。我們期待AI更多的是一種工具。它目前還不能像人們想象的那樣大規模地取代工作，但在未來，它將成爲一種強大的生產力工具。這個前景在我們一開始做這件事時並不清晰，我們不知道未來會走向何方，但感謝技術的發展讓我們看到了這條道路。這是一個放大人類能力的工具，它將人們的工作能力提升到一個新的水平，同時也讓AI能夠承擔部分工作。當然，工作方式會發生變化，有些工作可能會消失，但人類的驅動力非常強大，社會自身運作的慣性也很強。
我相信AGI（通用人工智能）將在不久的將來出現，但它給世界和人類工作帶來的改變比人們現在預想的要小。
問：鑑於你們親眼目睹了這項技術的發展，你是否改變了對AI將給就業帶來的巨大影響和破壞的看法？
馬坎朱：確實，我們的政策研究團隊已經對這個問題進行了深入研究，他們發現AI對工作方式的改變產生了相當大的影響，但這並不是讓人們失業，而是讓工作方式變得更加高效。我認爲這實際上將加速社會的進步，並且將改變更多人的工作方式。就像山姆所說的那樣，到目前爲止，人工智能還沒有成爲主要的就業替代原因。
奧特曼：你知道，經常聽到程序員說：“我現在的效率比以前提高了兩倍、三倍，如果沒有這個工具，我根本無法完成代碼編寫。”事實上，世界上有大量需求，需要更多的人才來編寫代碼，這對其他行業也是一樣。所以，我們面臨的不是需求不足的問題，而是需求遠遠超過我們當前能力的問題。隨着技術的進步，人們可以做更多的事情。期望也會隨之提高，但我們的能力也在不斷提升。
問：我想就今天的另一篇報道問你們，報道稱OpenAI正在放寬其對AI在軍事項目和開發武器中使用的人工智能限制。你們能就這方面以及OpenAI與美國國防部和其他軍事機構所做的工作發表更多意見嗎？
馬坎朱：這些政策中的很多內容，在我們還未了解人們將如何使用我們的工具時就已經制定出來了。因此，這不僅僅是關於軍事用例政策的調整，而是一個全面的調整，以便人們更清楚地瞭解哪些是可能的，哪些是不可能的。具體到軍事這個領域，我們實際上仍然禁止開發武器、破壞財產和傷害個人。但我們也一直在與國防部合作開發用於開源軟件的網絡安全工具，以保護關鍵基礎設施，也在探索AI是否可以幫助預防退伍軍人自殺。因爲以前基本上全面禁止軍方使用AI，但這些項目和我們想要帶給這個世界的高度統一。
問：美國政府有沒有要求你們限制與其他國家軍事機構的合作？
馬坎朱：他們還沒有問過我們，但我們現在的主要關注點是與美國國家安全機構進行這方面的合作。我想我們一直相信民主國家需要在這項技術方面處於領先地位。
問：換個話題，山姆，給我們介紹一下GPT商店，你是否看到了其與移動應用商店早期類似的創造力爆發？
奧特曼：是的，同樣的創造力和同樣多的垃圾，但這發生在人們喜歡探索技術的早期階段。那裡也有一些令人難以置信的東西。
問：給我們舉個例子。
奧特曼：GPT是一個非常輕量級的定製ChatGPT的方式。如果你想讓它以特定的方式表現，使用特定的數據來調用外部服務，你可以創建這個功能，可以用它來執行各種類似的操作。最近，我們還推出一個商店，用戶可以在那裡看到其他人創建的東西，並分享自己的作品。我個人特別喜歡的一個應用是Al Trails。每兩個週末，我都想進行一次長時間的徒步旅行。你告訴它你的喜好和已經走過的路線，它就會推薦另一個很棒的徒步旅行線路。這聽起來可能有些傻，但我真的很喜歡這個應用。
問：你有沒有添加自己的GPT？
奧特曼：我自己製作了一些，但我還沒有把它們放在商店裡，也許我會那樣做。
問：你能給我們更新一下你看到的新GPT的數量或增長速度嗎？
奧特曼：在推出商店之前，已經有300萬個GPT被創建了。由於我一直忙於世界各地的旅行，沒有時間關注日常指標，所以我不知道自從商店推出以來情況如何。但根據現在ChatGPT的卡頓程度（編者：用的人很多，所以卡），它發展的應該很不錯。
問：我想問你關於OpenAI的版權問題。考慮到《紐約時報》上個月對OpenAI提起了訴訟，出版商關係對OpenAI的業務有多重要？
奧特曼：出版商關係對於OpenAI確實非常重要，但原因可能並非如人們所想。許多人認爲我們極度依賴他們的訓練數據，而且這些數據非常有價值。然而，實際情況並非如此。舉個例子，我們其實並不想用《紐約時報》的數據來訓練模型。現在，我們正在邁入一個數據的世界，在這個世界裡，你只需要更多的數據。但無論如何，總有一天你會耗盡這些數據。因此，我們的大部分研究都集中在如何從更少的高質量數據中學習到更多知識。我相信，世界終將找到解決這個問題的答案。
如果出版商願意，我們的目標就是，當我們的用戶提到今天達沃斯發生了什麼時，我們可以準確地告訴他們這是來自彭博社的文章，這是來自《紐約時報》的文章，等等。我們可以用這項技術做一些非常酷的事情。
有些出版商願意與我們合作，有些則不然。我們已經建立了很多了不起的合作關係，未來還會有更多。當然，也有一些出版商不願與我們合作，但我還是希望他們和我說而不是直接起訴。我們會爲自己辯護的。
問：你說不想在《紐約時報》上訓練，這是否意味着你只是不希望使用他們的數據來訓練模型？這是否意味着考慮到法律風險，你會以不同的方式訓練你的模型？
奧特曼：確實，使用出版商的數據來訓練模型是一個複雜的問題。網絡世界如此龐大，有時候人們會從《紐約時報》等媒體複製文章，然後未署名地發佈在其他網站上。如果我們使用了這些數據，可能很難確定文章的真正來源。如果《紐約時報》或其他出版商願意爲我們提供他們所有文章的數據庫，並明確要求我們不要發佈與其相匹配的內容，那麼我們或許能夠很好地處理這個問題。但我們並不希望簡單地反芻他人的內容。
問題並不像聽起來那麼簡單，但我相信我們有能力將這類情況的發生率降至最低，這將成爲我們評估自己的一個重要標準。如果某些內容受到版權保護，無論是否被用於其他目的，我們都無法得知。但如果這些出版商願意向我們展示其內容，並明確要求我們不要用盜版給用戶做響應，那麼我們應該能夠做到這一點。
總的來說，我們有信心在這方面做得很好。我堅信，隨着技術的發展，將會有更多新穎的方式出現，讓人們更好地消費和貨幣化新聞以及其他已發佈的作品。對於《紐約時報》的情況，我們還有很多富有創意的事情可以做，而不僅僅是製造一些轟動效應。
問：那圍繞Dalle的版權爭議給你帶來了什麼教訓，你們將如何改變？
奧特曼：我們與藝術界進行了很多深入的交流。你知道，我們一直努力遵守各種要求，比如不要模仿我的風格來生成內容，即使你從未在我的數據上進行過訓練。這是非常合乎情理的，所以我們知道要實施這樣的事情。我真的很想做到這一點，雖然技術還沒有完全實現。
但我們更想的事，與其讓藝術家們說：“我不想因爲以上那些原因而用AI”，我們更想能夠提供一些工具或平臺，讓藝術家們能夠推出屬於自己風格的Dalle版本。如果他們願意，可以出售這些產品的訪問權；如果他們不願意，那就自己使用它，或者獲得某種經濟利益及其他方面的回報。這不是關乎用他們的圖像訓練模型的，而是關於風格的問題。
至少在與我對話的藝術家中，很多人對這個想法非常感興趣。所以我們要了解人們不想要什麼，並確保我們尊重這一點。當然，你不能讓每個人都滿意，但要儘量讓美術界感覺我們是夥伴。但我認爲更好的、更令人興奮的是，我們能夠做一些讓藝術家們覺得很棒的事情。
問：安娜，作爲OpenAI駐華盛頓的大使，我對你在Facebook的工作經歷，以及你在過去幾十年中從科技公司與政府和監管機構的緊張關係中學到的東西很感興趣。這些經驗無疑爲你現在的工作提供了寶貴的洞察力和實踐知識。
馬坎朱：在政府內工作期間，我深刻認識到一件事：在2016年俄羅斯選舉干預事件中，那時我在白宮工作，儘管人們以爲那是第一次聽說這種事，但實際上我們早已對此有所準備。我們都明白這種情況會發生，但如何應對呢？我所做的是，在很長時間內避免與科技公司交流，因爲在政府工作中，我們通常不會這樣做。尤其在當時，這類情況並不多見，這些新興技術還處於起步階段。
當我投身科技領域時，我反思了這一點，我深感後悔。我真心希望政府能深入理解這項技術，明白這些公司是如何做出決策的。坦白說，當我初次加入OpenAI時，政府裡幾乎沒人聽說過這家公司。每次使用這一工具，我都會想，如果我在政府任職的8年間就已經用了這個工具，我原本能完成10倍的工作。
所以，如何讓我的同事們也使用這個工具變得至關重要，尤其是考慮到OpenAI的使命——確保這些工具能爲每個人帶來福祉。我認爲這永遠不會發生，除非政府能將其納入公共服務中，使其變得更高效、更快速。這實際上是我最期待的事情之一——讓政府真正利用它來造福於每一個人。
問：監管機構是否接受這樣的觀點，畢竟政府中很多人對與硅谷過去的互動持懷疑態度。
馬坎朱：我深感，在大部分時間裡，我甚至未能充分闡述它的價值，因爲大衆的焦點更多地放在治理和監管上。我堅信，他們從理論上明白這項技術能爲政府帶來巨大的益處。然而，許多政府尚未做好採納的準備，當然也有明顯的例外，比如那些真正站在技術前沿的政府。因此，很多時候，我甚至未能真正參與到這一對話中。
問：我想問你們關於去年11月發生的一系列戲劇性事件。你們是否處理了OpenAI的管理問題以及其非常獨特的公司結構，包括非盈利董事會和上限利潤部門，導致你們的所有權結構出現了變化？
奧特曼：我們將首先關注組建一個更好的董事會。我預計我們在未來幾個月內在這方面取得很大進展。然後，新的董事會將會審視治理結構。但我認爲，我們已經在討論這到底意味着什麼。
問：OpenAI是否應該成爲一家傳統的硅谷營利性公司？
奧特曼：我們永遠不會成爲一家傳統公司，但我認爲我們應該審視我們的組織結構。也許我們現在擁有的結構是合適的，但我認爲我們應該保持開放心態，考慮其他可能性。不過，現在還不是時候，我們首先要關注董事會，然後從各個角度審視這個問題。
關於OpenAI，很難用言語表達的一點是，我們的團隊、身邊的人，包括投資者、微軟等支持者，他們都長期致力於這個使命。在那瘋狂的幾天裡，我想有97%或98%的公司員工簽署了一份聲明，表示他們願意辭職並轉向其他事情。這會導致每個人的股權化爲烏有，對許多員工來說，這是他們的大部分財富。人們願意這樣做，我認爲這很不尋常。我們的投資者也將眼睜睜看着他們的股份變成零，但依然選擇支持我和我們的目標。我覺得這對於一個公司來講非常幸運。當然，我們也想讓所有的股東賺到一大筆錢，但對我來說，我們優先考慮的事情是非常清楚的。這對我來說意義重大。
問：在去年6月的彭博科技大會上，也曾有人問了你一些問題，大意是爲什麼我們應該信任你，你非常坦率地說我們不應該信任你，如果他們願意的話，董事會應該能夠解僱你。當然，他們後來確實這麼做了，你巧妙地策劃了自己的迴歸。
奧特曼：讓我告訴你一件事，董事會真的做出了那個決定，我當時覺得這太瘋狂了，完全困惑，完全沒有準備。但這就是公司的治理結構，我立刻開始思考下一步該如何應對。直到一些董事會成員在第二天早上給我打電話，我才真正考慮重新回到公司。董事會是有着完全的決定權的，至於後面你的問題我就不想說了……
馬坎朱：有很多人在編造故事，比如說山姆迴歸是其他所有力量精心策劃的。這是不準確的。我想說OpenAI的員工想要這個結果，他們認爲讓山姆回來是正確的事情。
奧特曼：我想說的是，我認爲擁有一個可以解僱我的實體是很重要的。雖然有一個實體能夠執行決策很重要，但這個實體也必須承擔一定的責任。這是當前發生的事情中一個明確的問題。
問：安娜，你在那段時間給員工寫了一封信。今天我很高興你能來這裡，我想問問你，那五天對你來說是怎樣的，你爲什麼要寫這封信？
奧特曼：如果安娜願意的話，她可以清楚地回答這個問題。但你真的想讓我們把時間花在像肥皂劇這樣的事情上，而不是關注人工智能的未來發展嗎？
問：我認爲人們對這個話題很感興趣。
馬坎朱：我想說的是，就在公司全體員工準備休息一週的前一天，發生了一些事情。所以我們在週五都在爲即將到來的輕鬆假期做準備，希望能夠緩解過去瘋狂的一年裡的緊張情緒，那時我們有許多人會在辦公室的地板上睡上一週。
問：這裡有一個問題：我們在達沃斯論壇上，氣候變化是議程上的一個重要議題。問題是：考慮到計算成本和芯片需求，人工智能的發展和通向AGI（通用人工智能）的道路是否有可能使我們在氣候問題上走向相反的方向？
奧特曼：我們確實需要比之前認爲的更多的能源。我對世界的理解是，未來的兩種重要資源將是智能計算和能源。無論是我們的想象力，還是讓想法變爲現實的能力，以及運行計算的能力，都離不開這兩者。然而，我認爲我們尚未充分認識到這項技術所需的能源需求。如果沒有重大突破，我們就無法實現這一目標。我們需要核聚變，或者更便宜的太陽能加上超大規模的存儲或其他技術，是那種從沒人真正規劃過的規模水平。
公平地說，人工智能的發展將需要大量能源，但我堅信這會迫使我們更多地投資於能夠提供這種能源的技術。這些技術都不能再依賴傳統的燃煤技術，否則會有巨量的碳排放從中產生。我認爲核聚變可能是最有可能的解決方案，或者至少是第二選擇。
我認爲世界對核裂變的看法仍然偏負面，但對聚變的看法很正向，但我希望世界能夠更接受核裂變（編者：即傳統核能發電）。我可能對此過於樂觀，但我相信我們現在已經有了實現大規模能源轉型的途徑，可以遠離傳統的燃煤能源。單這需要時間，汽車等交通工具的轉型也不可能一蹴而就。我們還得等一段時間才能讓每條貨船裝上核聚變反應堆。
然而，如果我們能夠像我希望的那樣大幅降低能源成本，那麼碳捕獲的數學計算就會發生變化。遺憾的是，我認爲世界還走在一條我們需要環境工程這樣一種臨時解決方案來解決環境問題的路上。但我們現在看到了長期解決方案的曙光。
問：好的，讓我們再回到我剛纔的問題上。從需求的角度來看，答案可能是肯定的，除非我們在供應方面取得重大突破。然而，我無法看到在沒有這種突破的情況下，如何滿足這種供應需求。這會不會讓你們感到不安？
奧特曼：目前，全球在能源供應方面並未展現出足夠的靈活性。然而，正如你所強調的，人工智能並不會等待我們找到足夠的能源纔開始發展。它推動我們更加積極地投資於核聚變、新型存儲技術等領域，以及如何以人工智能所需、乃至全球所需的巨大規模來提供能源。因此，我們不能只是坐等。我們深信即將到來的變革，並希望瞭解如何利用我們的能力、資本等資源來應對這一變革。在這個過程中，我們希望爲世界其他地區提供解決方案，而不僅僅是專注於人工智能的訓練或推理工作負載。
問：安娜，2023年我們幾乎開始了一場關於AI監管的假設性對話。2024年我們會期待什麼？政府會採取行動嗎？它會變成現實嗎？AI安全會是什麼樣子？
馬坎朱：我認爲它正在成爲現實。歐盟即將敲定一項全面的AI法規。而拜登政府也發佈了一項歷史上篇幅最長的行政命令，全面涵蓋了這項技術，並計劃在2024年開始實施。因爲他們給各機構佈置了一系列關於如何實施和監管這項技術的任務。
然而，關於安全問題，我認爲這仍然是我們尚未解決的一大挑戰。我們成立了Frontier Model Forum（前沿模型論壇），微軟、OpenAI、Anthropic和谷歌都是其中的成員，但我相信未來會有更多的前沿實驗室加入。現在我們所有人都在研究安全問題，大家都有紅隊，在這方面做了很多工作，但實際上並沒有統一或標準化的方法。
某種程度上，人們認爲這只是行業內部的問題。但實際上，這也是在迴應許多政府對我們的要求。
問：你們認爲，是否存在一種風險，即監管開始阻礙人工智能領域的創業活動？
馬坎朱：我想人們對此感到非常害怕。這就是爲什麼我認爲德國、法國和意大利會干預歐盟的AI法案討論，因爲他們真的很擔心自己的國內產業在發展之前就被削弱。
問：你是否對拜登的行政命令感到滿意？其中有沒有你反對的內容？
馬坎朱：事實上，我認爲它非常好，因爲它不僅僅限制，也考慮到了機構將如何利用這個機會更好地發展。我非常高興他們採取了平衡的方法。
問：山姆，這是你第一次參加達沃斯論壇。你提到你更願意花更多的時間在舞臺上談論AGI。那你想給這裡的政治領導人和商界領袖傳達什麼信息？
奧特曼：我認爲2023年是全球逐漸認識到AI能力不斷提升、應用場景越來越廣泛的一年。然而，GPT-4更應該被視爲一種預覽版本。它的實用性超出了我們的預期，對更多人來說也有着更多的用途，但其侷限性也一眼可見。需要指出的是，這裡的進步並不是線性的，這是最讓人頭疼的地方。人類的指數增長直覺很糟糕，至少我自己是這樣的。但這似乎是人類的共同點。如果GPT-5比GPT-4好四倍，GPT-6比GPT-5好六倍，那將意味着什麼呢？如果我們正處於這個發展軌跡上，那又會意味着什麼呢？
至於監管問題，我認爲不同國家嘗試不同的事情是件好事。一些國家可能會禁止AI，一些國家可能沒有任何保障措施。我認爲這兩種情況都不太合適，我們會看到不同的事情起作用。但是隨着這些系統變得越來越強大，隨着它們越來越深入地融入經濟，隨着它們成爲我們所有人用來工作的工具。其他事情也會隨之發生，它們變得能夠爲全人類發現新的科學知識，甚至在某個時候，它們變得能夠進行人工智能研究。世界的變化或許會先開始很慢，但後續突然加快。但不論如何，世界都會變化。
我會對人們說，沒有人知道接下來會發生什麼，我真的相信這一點。保持對此的謙遜態度非常重要。你可以看到前方的幾步，但不能看得太多。
但是，當認知的成本降低一千倍或一百萬倍，它的能力將以難以想象的方式增強我們自身。我給大家舉的一個例子：如果世界上每個人都能擁有一個由一萬名出色的虛擬員工組成的強大公司，而且這些員工在各個領域都是專家、從不互相爭鬥，也不需要休息；它們還會以驚人的速度變得越來越聰明，那麼我們能爲彼此創造什麼呢？這會給我們所生活的世界帶來什麼呢？答案是我們都不知道。
當然，我們對此都沒有強烈的直覺。我可以想象它，但它並不是一幅清晰的畫面。這將會發生，但並不意味着我們無法駕馭它，也不意味着我們無法非常努力地使它變得安全，並以負責任的方式做到這一點。但是，我們將走向未來，我認爲我們現在所擁有的政府幹預程度，就是以一種可行的方式到達未來的最佳途徑。
我們相信迭代部署的必要性，因爲人們需要時間逐漸習慣它、理解它。我們需要時間以便在風險較低的情況下犯錯誤。政府需要時間來犯一些政策錯誤，同時技術和社會也必須以這種方式共同演變。因此，技術將隨着每次迭代而改變，但社會的運作方式也會改變，而這必須是一個交互式的迭代過程。我們需要擁抱它，但要謹慎行事。
問：這個迭代過程需要多長時間呢？
奧特曼：我堅信這是一個連續的過程，充滿了驚奇和可能性。我並不喜歡思考其中的不連續性，而是更傾向於欣賞人工智能在AI研究等領域中所能展現的出色能力。總的來說，我認爲這並不是一個關於跨越某個界限的問題，而是關於我們共同攀登的那條連續的、指數增長的曲線。那麼，我們需要多長時間呢？這個問題很難回答，因爲它的答案似乎是無限的。
在這個過程中，我們不能忽視任何一步，因爲每一步都可能帶來新的發現和突破。我們需要保持謙遜和開放的態度，不斷學習和進步。同時，我們也需要謹慎行事，確保我們所做的一切都是安全和負責任的。
問：本週早些時候，我看到GPT-5在X上很熱門，我點擊進去。你知道，聽起來可能有點誤導人。你能告訴我們更多關於GPT-5的事情嗎？它是不是比我們之前看到的有了指數式的進步？
奧特曼：關於下一個模型的命名，我還沒有明確的想法。我並不喜歡像“iPhone 27”這樣的命名方式，因爲這不是我的風格。但我相信，我們即將發佈的下一個模型將會令人印象深刻。我期待它能夠實現一些以前使用GPT-4無法實現的新功能，並且能夠做得更好。我們將花費足夠的時間來確保我們推出的產品能夠讓我們自己感到滿意和有責任感。
問：在OpenAI，一些員工認爲自己在“建造上帝”？
奧特曼：我從未聽說過這個觀點，但我認爲大多數員工會說，他們正在創造一種工具，能讓他們感到非常興奮的工具。在這個行業中，我們是在創造一個生物還是一個工具？我們更像是工具的創造者。AI更像是一個工具，而不是一個實體。去年最美好的事情之一，就是看到世界各地的人們可以用這個工具做多少事情，這讓我們感到驚訝。而且我認爲，我們將看到越來越多的人類創造力，以及使用更好的工具做更多事情。
問：最近有報道稱，你正在與喬尼·艾維共同開發一款AI設備，它可能是作爲OpenAI的一部分，也可能是獨立的公司。提到這個項目，是因爲CES在不久前舉行，AI驅動的設備成爲了會議的熱門話題。你能給我們提供關於這個項目的最新消息嗎？AI是否會帶我們進入智能手機的終結時代？
奧特曼：我認爲智能手機非常棒，它們在許多方面都表現出色，並且具有廣泛的應用。雖然未來可能會有新的技術出現，但我認爲智能手機不會消失。它們將繼續在我們的生活中發揮重要作用。新的技術可能會以新的方式幫助我們更好地完成工作，提供更高效、更便捷的服務。正如我們現在可以與計算機交談並讓它們爲我們做事情一樣，未來可能會有更多的創新和突破。
我們一直在探索計算機行業的新領域，如果我們能夠利用這些新技術做一些真正偉大的事情，那麼我們應該勇於嘗試並探索新的技術方向。當然，如果事實證明智能手機確實非常好，而且主要是依賴於軟件的發展，那麼我們也可以充分利用這一點，繼續推動軟件技術的發展。
問：與艾維的合作是OpenAI的一個項目嗎？這是成立獨立的公司？
奧特曼：我還沒有聽到與艾維合作的任何官方消息。
問：安娜，我會給你最後一個發言的機會，因爲你和山姆在這裡與商業和世界領導人會面。你想給他們留下什麼信息？
馬坎朱：我認爲有一種趨勢是，人們對人工智能技術感到更害怕而不是興奮。我明白，我們必須努力確保提供這項技術的最佳版本。但我認爲，許多通過達沃斯論壇與會者接觸到人工智能技術的人，他們確實有責任確保自己發出沒有偏見的信息。這樣，人們才能真正參與其中，並意識到這項技術帶來的益處。
奧特曼：再給我20秒鐘，我來補充說明下。我認爲，在某些方面，OpenAI的表現並不完美。我們還沒有找到構建這些工具的正確方法。ChatGPT在將對話引導至積極方向方面的表現確實出色。但這並不是因爲我們有信心說“它會變得出色”，而是因爲當人們真正使用它後，他們不由自主地說“哦，我明白了，它使用起來非常自然”。智能手機之所以吸引人，也是因爲它讓我們擺脫了鍵盤和電話的束縛，我們可以更自然地與它互動。
談到喬尼·艾維，他確實是個天才。他一直致力於讓計算機與人類更兼容。我認爲這對於技術的發展至關重要，它讓技術更像科幻電影中的神奇之物，而不是可怕的東西。它爲我們提供了一種全新的方式來使用計算機。
我還記得自己得到第一臺iMac時的情景，它對我意義重大。雖然它很重，但它有一個把手，這讓我感覺可以輕鬆地移動它。這個把手讓我與它建立了不同尋常的關係。如果它試圖“醒來”並接管我的生活，我可以拔掉電源並把它扔出窗外。總的來說，我認爲我們在設計和使用產品時所採用的方式確實很重要。
歡迎加入這個星球，見證硅基時代發展↓