和碩OCP大會秀肌肉 新款AI伺服器齊亮相

同時,和碩也展出大型語言模型訓練與推理伺服器機櫃RA4401-72N1,該產品基於NVIDIA GB200 NVL72系統架構設計,最多可部署72個NVIDIABlackwell GPU與36個NVIDIA Grace CPU,並透過 NVIDIA NVLink技術完整連接,以提供超高運算效能、液冷架構,專爲大型語言模型訓練與推理工作負載而設計。此伺服器搭載NVIDIA BlueField-3 DPU,實現雲網絡加速及強化安全性,並採用Axiado BMC模組方案,提供更安全的節點管理。