埃隆·馬斯克 xAI 超級計算機震撼登場
人們常說,羅馬不是一天建成的。好吧,但埃隆·馬斯克只用了 122 天就打造出了據稱是地球上最強大的人工智能訓練系統。這位備受歡迎的億萬富翁可從不磨蹭。
馬斯克的新玩具,被稱爲“巨像”,由他新成立的人工智能初創公司 xAI 打造,是爲了訓練最新版本的 GROK 語言模型,也就是 GROK-3。它由不少於 10 萬個英偉達 H100 GPU 提供動力。
如果這還不夠,在 X 帖子中馬斯克表示,“巨像”的能力將在“幾個月內”翻倍,這得歸功於另外新增的 5 萬個 H200 英偉達芯片,每個芯片的人工智能加速性能大約是 H100 GPU 的兩倍。
目前還不清楚這一切給馬斯克和 xAI 帶來了多少開銷。
英偉達 H100 GPU 的價格估計,每顆從 2 萬美元到高達 9 萬美元不等。
想必,馬斯克一次性購買 10 萬個,成功設法獲得了一個相對不錯的交易。
但即便按照較低的估計,僅第一階段購買英偉達芯片就得花費 20 億美元
更別提建設數據中心、所有相關的基礎設施、人員的配備,以及爲先進的 LLM 開展設置培訓所涉及的所有工作。
哦,還有另外那 5 萬個 H200 的成本,權當是一點小點綴。
事實上,就在幾周前,xAI 纔將 GROK-2 作爲 X 訂閱用戶的獨家訪問項目推出。顯然,GROK-2 在訓練時僅使用了微不足道的 15,000 個 H100 芯片,可憐的小人工智能。然而,從某些方面來看,GROK-2 在 LLM 排行榜上排名第二,僅次於 ChatGPT-4o。
所以,即使是第一階段也將比 GROK-2 強大六到七倍,而僅僅幾個月後算力就應該會翻倍。顯然,馬斯克的目標是打造出最強的 LLM。
至於 GROK-3 可能何時推出,馬斯克上個月剛剛告訴保守派辯論家和後來的播客主持人喬丹·彼得森,他希望 GROK-3 能於 12 月上線。
順便說一句,這樣的機器並非沒有連帶後果。位於田納西州孟菲斯的新集羣會消耗 150 兆瓦的電力,並且每天已被分配多達 100 萬加侖的水用於冷卻。
因此,把環境影響加到因“巨像”而感到不安的原因之列,同時,還存在對於人工智能直接影響以及馬斯克愈發不穩定的更廣泛憂慮。這已經足夠讓人去應對啦。