網企瘋搶GPU 投入大模型研發

陸網企內部釋放GPU給大模型業務動態

大模型浪潮下企業積極投入研發,被美國卡關GPU(圖形處理器)的陸企透過各種管道想大量採購、儲備高階運算晶片。13日傳出,今年字節跳動已向輝達下逾10億美元大訂單,僅這張訂單規模可能就相當輝達去年在陸 銷售商用GPU總和。

晚點LatePost報導,大陸網企積極採購GPU,今年春節後,擁有云端運算業務的大公司幾乎都向輝達下大單。其中,字節跳動今年已向輝達下超過10億美元大單,總計有約10萬片A100與H800,部分產品可能要到年底才能交貨。

報導指出,僅字節跳動一家的大單可能就逼近輝達去年在大陸銷售的總和。去年輝達曾透露,美國禁令可能影響公司第四季在大陸潛在營收約4億美元,粗略計算,輝達2022年在大陸資料中心GPU銷售額約人民幣(下同)100億元。

向輝達遞出大訂單的當然不僅字節跳動,報導指出,另一家大型網企也向輝達下萬片等級訂單,規模逾10億元。大陸多數網企都認爲採購GPU是當務之急,首先在過去「降本增效」方針下,一些雲端平臺都減少晶片採購與儲備,其次是難以保證美國會否再有新禁令,最後當然是大模型趨勢讓各企業爭先恐後投入。

報導指出,此前阿里雲都還將GPU外租,甚至一度有供過於求狀況,阿里雲去年就降價六次以吸引客戶租用。阿里雲在2020年後就減少GPU採購規模,騰訊在去年也砍單一批輝達GPU。

但今年情況截然不同,騰訊在3月份發表新的服務時表示使用輝達H800晶片,爲該產品在陸首發。業內人士指出,當前阿里與字節都找輝達原廠談採購以滿足龐大需求。部分公司也會與輝達直接進行業務合作,以確保能優先採購到GPU。

在供不應求的狀況下,陸企紛紛先設法挪用其他領域的GPU給大模型研發,報導指出,阿里達摩院5月份裁撤自動駕駛實驗室,因此原本該領域的GPU能轉給大模型;字節甚至把原本要用在覈心業務廣告推薦演算法的GPU挪給大模型,反映重視程度;美團等企業也先讓其他業務使用較低階GPU,高階晶片優先供應大模型。