《產業》AMD推最新AMD ROCm 6.2開源堆疊軟體 助功HPC及AI效能

AMD ROCm 6開源軟體平臺經過優化，可從AMD Instinct MI300加速器中提取最佳的高效能計算（HPC）和人工智慧（AI）工作負載效能，同時保持與業界軟體框架的相容性。ROCm包括一系列驅動程式、開發工具和API，從低階核心到最終使用者應用程式的GPU程式設計均可實現，並且可以根據您的具體需求進行自訂。在這個免費、開源且整合的軟體生態系統中開發、協作、測試和部署應用程式。設計完成後，軟體具有可移植性，可在不同廠商的加速器之間或在不同的GPU連接架構之間移動，所有這些都是在設備無關的情況下實現的。ROCm特別適合於GPU加速的高效能計算、人工智慧、科學計算和計算機輔助設計（CAD）。

AMD ROCm 6.2該版本的新增功能與優勢，包括：擴展vLLM支援：提升Instinct加速器的人工智慧推論能力；全新Bitsandbytes功能：通過提高記憶體效率與效能，增強AI訓練和推論；全新離線安裝程式建立器：簡化ROCm的安裝體驗；全新Omnitrace與Omniperf分析工具：通過效能分析和精簡的開發工作流程，革新AI和高效能運算的開發。更廣泛的FP8支援：在使用更少記憶體的情況下進行更高效的訓練，從而增強AI推論能力。