GTC登場 黃仁勳放大絕 Blackwell架構B200晶片

黃仁勳GTC演講。圖/鄭淑芳

衆所矚目輝達(NVIDIA)創辦人、AI教父黃仁勳,發表GTC 2024的主題演講-見證AI的變革時刻。鑑於過去一年多時間裡AI帶來的生產力變革,老黃的演講已成爲全球引領期盼之熱門事件。在這場兩小時的演講中,黃仁勳公佈搭載B200晶片的GB200 Grace Blackwell超級晶片系統,以及輝達在AI軟體(NIM微服務)、Omiverse雲端、人型機器人方面的最新發展。

本屆GTC參與者,包含微軟、亞馬遜、谷歌等科技巨頭,臺廠如臺積電、聯發科、鴻海、臺達電、緯創等,黃仁勳強調,這些公司不只是來參會,而是有自己的東西要來展示。

黃仁勳表示,GTC將討論新產業的許多問題,重要的是如何進行計算、要如何爲產業構建軟體類型,並導入新行業中的新應用;擘劃產品未來,要如何從今天開始準備。

數位孿生,爲輝達使用模擬工具協助個產業發展,黃仁勳指出,不僅是爲降低運算成本,更是擴大運算規模。希望能夠以完全擬真、完全數位化的方式,模擬生產之產品,其中便包含汽車、新藥等。

接着,黃仁勳開始介紹開始一系列「新加速生態系統」合作伙伴,包括ANSYS、Synopsis、Cadence等。更提到,臺積電和Synopsys將突破性的運算微影平臺投入生產。

黃仁勳強調,隨着transformer模型被髮明,以驚人的速度擴展大型語言模型,實際上每六個月就能翻倍;而爲了訓練這些越來越大的模型,需要更強的算力!

Grace-Blackwell系統正式亮相,包含兩個Blackwell GPU、四個Die與一個Grace CPU連接在一起。GB200將兩臺B200 Blackwell GPU與一個基於Arm的Grace CPU進行配對,擁有2080億個晶體管,並能同時存取與晶片連接的記憶體;此外,爲了處理大規模資料中心的GPU互連,也需要更強NVlink。

黃仁勳分析,過往使用8,000張Hopper GPU,訓練一個1.8兆參數量的GPT模型,需要消耗15兆瓦的電力,連續跑上90天;但如果使用Blackwell GPU,只需要2000張,同樣跑90天只要消耗四分之一的電力,當然不只是訓練,生成Token的成本也會隨之降低。黃仁勳揭露,微軟Azure、AWS、Google等一衆科技巨頭,都是Blackwell架構的首批使用者。

另外,人型機器人,更是黃仁勳演講爆點。黃仁勳表示,「在我們的世界裡,人型機器人很有可能會發揮更大的作用,包括設置工作站、製造和物流的方式,都將帶來革命性改變。」

黃仁勳同時宣佈名爲GR00T的項目,推動輝達在具備人工智慧機器人的進展;由GR00T驅動的機器人可以理解自然語言,並透過觀察人類動作,進一步模擬運動。現場,也展示迪士尼orange和green機器人,該機器人用的即爲輝達替機器人設計的首款AI晶片Jetson。