甲骨文公司高管:英偉達芯片價高且難買,AMD開始成爲更多用戶平替

芯東西(公衆號:aichip001)編譯 尹明順編輯 漠影

智東西9月13日消息,據The Information報道,軟件巨頭甲骨文公司(Oracle Cloud Infrastructure)高級副總裁 Karan Batta稱,儘管英偉達在銷售人工智能數據中心芯片方面蓬勃發展,但一些開發AI的客戶正在轉向規模較小的競爭對手AMD。

甲骨文公司認同英偉達在芯片市場上的優勢地位,但同時認爲需要加入一些競爭來可控硬件開發成本。

英偉達產品存在提升價格可能,許多客戶爲此陷入擔憂。

甲骨文高管稱,AMD硬件能夠有效幫助公司防範因英偉達芯片供應短缺出現的危機,而這類短缺問題,在去年的絕大多數時間都存在過。

除了甲骨文公司外,微軟等雲服務商也有減少對AI計算巨頭英偉達依賴的意向。

一、英偉達斷供成常態,客戶紛紛轉向AMD

Karan Batta說:“我們發現,芯片推理的達成並不一定非要綁定在某個特定供應商。”Karan Batta認爲,隨着英偉達在服務器芯片市場上一騎絕塵,需要競爭來降低硬件成本。

無論是自主開發AI應用這一層面,還是向軟件供應商採購此類應用層面,增強競爭都將使企業能夠控制AI推理成本。

AMD在2023年推出的最新旗艦服務器芯片可能不如英偉達在2022年推出的最新旗艦產品H100強大,但甲骨文和微軟的高管們認爲,他們別無選擇,只能支持AMD以促進競爭。Karan Batta補充道:“AMD正在投入大量精力,並且在提升芯片性能方面做得很好。”

Karan Batta認爲,甲骨文公司使用AMD硬件還有助於其防範未來英偉達潛在的供應短缺問題。此類短缺在去年大部分時間都發生過。

Karan Batta拒絕透露具體細節或客戶名稱,但他的評論表明甲骨文公司希望減少對AI計算巨頭英偉達的依賴,這一做法與微軟等其他雲服務提供商類似。

此外,用於推理的英偉達芯片租賃成本一直在下降,但其下一代旗艦AI芯片可能會改變這一現狀。其他英偉達客戶也私下表達了類似的擔憂,他們擔心如果AMD或其他公司不搶佔英偉達的市場份額,英偉達產品將繼續保持高昂的價格。

雖然到目前爲止,這種情況還沒有真正發生。

AMD稱,與去年同期相比,其數據中心收入在6月當季增長了115%,達到28了億美元,而英偉達的數據中心收入在7月當季增長了154%,達到了263億美元。

▲英偉達與AMD數據中心收入對比圖(圖源:The Information)

二、甲骨文正與OpenAI、xAI開展合作,着力提升芯片集羣規模

與此同時,甲骨文和其他雲服務提供商正在蓬勃發展,他們向OpenAI和埃隆·馬斯克的xAI等客戶出租了更多英偉達服務器。

在美國的服務器租賃市場中,甲骨文公司排在亞馬遜的Amazon雲服務、微軟Azure雲科技和谷歌雲之後,位列第四。甲骨文公司從這項業務中獲得了24億美元的收入,同比增長45%。

甲骨文公司進入雲計算領域相對較晚,但有些幸運,因爲去年正值AI初創公司爭相搶購雲服務器的熱潮。甲骨文公司沒有開發類似OpenAI GPT-4的大型語言模型,故而對於AI開發客戶不構成競爭威脅,這使它在市場顯現出了優勢。

現在,甲骨文公司正在尋求在AI模型訓練市場佔據更大份額,聯合創始人拉里·埃裡森(Larry Ellison)在週一表示,甲骨文公司正在設計一座容量超過10億瓦特的數據中心,它足以爲像舊金山這樣的城市供電。

Karan Batta拒絕透露該數據中心的細節也未公佈何時投入運營。他稱,爲了支持其擴張,甲骨文公司將提升串聯AI芯片集羣的能力,使它們能夠像單臺計算機一樣工作,這是訓練新大型語言模型的理想設置。

這些改進包括改變甲骨文公司冷卻發熱芯片的方式,以及爲電纜建造隧道,以便將不同建築中的芯片連接起來,使它們不必全部位於同一地點。

他說,甲骨文計劃將芯片集羣規模擴大至少一倍,從6.4萬個GPU增加到12.8萬個以上。但他沒有說明具體時間。

此外, Karan Batta認爲,即使初創公司使用其他雲服務來開發其核心模型,甲骨文公司仍然可以從人工智能培訓的需求中受益。

例如,這些公司還需要其他用途的硬件,如微調,開發人員會在其中對特定任務的模型進行優化。

Karan Batta稱,一些AI公司正在購買訪問舊芯片的權利來處理這些工作負載。

據The Information人工智能數據中心數據庫顯示,甲骨文公司可能與OpenAI和微軟達成了一項協議,將在明年使用美國德克薩斯州的一座設施,但 Karan Batta拒絕就具體公司對此事發表評論。

結語:越挫越勇?自稱AI計算能力名列前茅

最近,甲骨文公司受挫,因馬斯克決定在美國孟菲斯建造自己的GPU集羣,而不是從甲骨文公司租用,因爲該公司無法快速建立數據中心。

Karan Batta認爲,現在判斷xAI是否能在甲骨文之前更快地完成由10萬個H100芯片組成的Colossus集羣,還爲時過早。

“我沒有一個比較的基準。我們比xAI快得多嗎?還是慢得多?……我認爲,與其他雲服務提供商比較而言,我們會覺得自己在AI計算能力方面是最快的之一。”

來源:The Information