Nvidia 推出 Project DIGITS:一款掌上型 AI 超級計算機

Nvidia 公司正在通過即將推出的 Project DIGITS 讓其最強大的圖形處理單元變得人人可及。這款"個人 AI 超級計算機"由即將面世的 Nvidia GB10 Grace Blackwell 超級芯片驅動。

這款 AI 超級計算機於今天晚些時候在拉斯維加斯舉行的 CES 消費電子展上發佈。Project DIGITS 計劃於 5 月推出,將爲用戶提供 1 petaflop 的人工智能計算性能,使研究人員、數據科學家和學生能夠在自己的辦公桌上獲得通常只有大型企業才能使用的性能。它將支持先進大語言模型的原型設計、訓練和微調,以及推理,使任何人都能夠開發出可以媲美 ChatGPT 等應用程序功能的人工智能系統。

Nvidia 即將推出的 GB10 超級芯片是一款系統級芯片,由其最先進的 GPU——Nvidia Grace Blackwell 驅動。它具備運行大規模 AI 項目所需的所有支持組件,包括數十個 CUDA 核心和第五代 Tensor 核心,這些核心通過公司的芯片間互連技術 NVLink 與同樣高性能的 Nvidia Grace 中央處理器相連。

據 Nvidia 稱,GB10 超級芯片使 Project DIGITS 超級計算機能夠通過標準筆記本電腦或 PC 爲任何人提供巨大的 AI 計算資源。每臺機器將提供 128 GB 的統一、一致內存和高達 4 TB 的 NVMe 存儲。這足以運行一個擁有 2000 億參數的大語言模型,這意味着用戶將能夠構建和試驗超越 OpenAI 的 GPT-3 模型(擁有 1750 億參數)能力的大語言模型。

對於需要更強大性能的用戶,可以使用 Nvidia 的 ConnectX 網絡技術將兩臺 Project DIGITS AI 超級計算機連接在一起,以支持多達 4050 億參數的模型。

Nvidia 聯合創始人兼首席執行官黃仁勳 (如圖,手持 GB10 超級芯片和 AI 超級計算機) 在 CES 主題演講中表示,Project DIGITS 的目標是讓先進 AI 開發工具更容易獲得,使每個人都能參與構建未來。他解釋說,目標是爲數百萬開發者提供負擔得起的 Grace Blackwell 超級芯片。

不過,可能仍有數百萬開發者被排除在外,因爲 Project DIGITS 機器的起價爲 3,000 美元,並不能真正稱得上"便宜"。但黃仁勳似乎認爲會有許多 AI 開發者願意支付這樣的價格。

黃仁勳說:"在每個數據科學家、AI 研究人員和學生的辦公桌上放置一臺 AI 超級計算機,將使他們能夠參與並塑造 AI 時代。"

開發者們將能夠在 Project DIGITS 上創建、微調和測試他們的模型,然後將它們部署到 Nvidia DGX Cloud 平臺、加速雲實例或自己的本地數據中心基礎設施上。

爲了幫助使用 Project DIGITS 的開發者,公司還爲他們提供了一個廣泛的 AI 開發工具庫,包括軟件開發套件、框架和預構建的 AI 模型,這些都可以在 Nvidia 開發者門戶的 Nvidia NGC 目錄中找到。

此外,公司還提供了一些"AI 藍圖",以及免費訪問其 NIM 微服務的權限,這些都可以在同一開發者門戶中找到。

圖片:Nvidia/直播