輝達降規新品 將繞過CoWoS

據悉AI教父將介紹NVIDIA的最新技術突破,包括獲獎研究、應用場景描述之進展以及AI驅動的內容生成解決方案。主要聚焦在生成式AI等話題,預計黃仁勳也將持續發揮業務本色,大力推銷自家產品。

SIGGRAPH在圖形圖像技術,以及電腦繪圖等方面有着相當的影響力。市場傳出,黃仁勳本次預計將推出一款推理卡產品L40S,主要用於小參數模型推理及訓練微調。據悉該產品不需使用CoWoS先進封裝製程、及HBM記憶體,旨要作爲替代A800打入中國大陸市場。

據業者指出,L40S爲L40系列的迭代特規版,專門提供小參數模型推理及訓練微調,與A/H系列存在較大差異,除了替代上一代的L40,及取代T系列推理卡,補足小模型訓練產品線,預估性能將再遜於A800。

不過也因此,在製程上也不需要複雜的先進封裝,直接跨過臺積電產能瓶頸。

對此,臺積電僅表示,現有產能規劃並無改變,不評論市場傳聞及客戶業務。

而在記憶體部分,L40系列也將不會採用第三代高頻寬記憶體(HBM3),而是採用GDDR6(圖形用雙倍資料傳輸)記憶體。

人工智慧目前的現狀是,極度缺貨的人工智慧晶片,市場紛紛搶購輝達的最新AI晶片H100。近期GPT5已經進行商標註冊,根據馬斯克預計,GPT-5可能需要3萬至5萬個H100。加上META、Tesla、Stability AI等公司,生成式AI爆發仍舊沒有放緩,反而對算力提出了更高的要求。

根據業界推算,各大公司GPU需求,約43萬張的H100,該算力規模,相當於上一代模型成長了近10倍,提供輝達相當強勁的業績支撐,輝達將於8月23日公佈上季財報,目前市場多給予樂觀的預估,受惠生成式AI成長,明後年也將持續強勁。