緯穎GTC大會秀新品！搭載GB200 NVL72助LLM飆升30倍速

緯穎。記者吳康瑋／攝影

緯創（3231）旗下伺服器大廠緯穎（6669）長期耕耘雲端資料中心IT基礎設備，致力於「釋放數位能量，點燃永續創新的願景」。並於今（19）日於美國聖荷西舉辦的「 GTC 大會」推出旗下最新的整機櫃AI運算解決方案和整機櫃液冷管理系統。緯穎透露，這次展會期間（3月18至21日）團隊將在展位（#1619）上，秀出包括基於NVIDIA GB200 NVL72的AI伺服器機櫃，以及最新的整機櫃液冷管理系統 UMS100等新品。

緯穎作爲 NVIDIA 緊密的合作伙伴，緯穎目標在滿足生成式AI時代對大規模運算能力和先進冷卻解決方案不斷增長的需求。據悉公司不僅是較早卡位 NVIDIA 的業者，並且更是首批搭載GB200 NVL72的公司之一。此次全新發表的 NVIDIA GB200 Grace™ Blackwell Superchip支援最新的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum™-X800 乙太網路平臺。

與上一代 GPU 相比，不僅將生成式AI提升到兆級參數的規模，並且實現了30倍速快的即時大型語言模型（LLM）推理速度，並且降低25倍的 TCO 和25倍的能源消耗。憑藉在高速資料傳輸、功耗效率、系統整合和先進冷卻方面的優勢，緯穎致力於打造最佳化的整機櫃液冷AI解決方案，以滿足客戶對資料中心基礎設施在性能、可擴展性和多樣性的需求。

此外，爲了滿足AI/HPC 高密度運算中日益增長的液冷需求，緯穎展示了全新的全方位液冷管理系統 UMS100。 UMS100提供即時監測、冷卻能耗優化、即時漏液檢測與控制，以確保系統的高效運作。它透過 Redfish 介面與現有的資料中心管理系統實現無縫整合；同時，透過支援產業標準，UMS100可與不同的 CDUs 和 sidecars 相容運作。這些特點使 UMS100成爲資料中心理想的液冷架構解決方案。

緯穎總經理暨執行長張順來博士表示：我們很高興成爲首批搭載 NVIDIA GB200 NVL72的合作伙伴之一，並於與NVIDIA 在 GTC 2024展示我們合作的創新設計。透過我們的 GB200 AI機櫃解決方案，我們將爲客戶提供卓越的運算能力，同時確保可客製化的彈性，以滿足資料中心在擴展、靈活性和管理方面的多樣需求。

張順來強調，我們將持續與 NVIDIA 合作，爲生成式AI時代的資料中心共同開發優化和可持續的解決方案。NVIDIA GPU 產品部門副總裁 Kaustubh Sanghani 表示，緯穎提供可應用於不同產業的可擴展且安全的 NVIDIA 加速運算產品。透過我們的 NVIDIA GB200 NVL72系統，緯穎致力於創新現代的資料中心，推動一個運算新時代。