輝達生成式「AI微服務 」來了！助企業內部建置AI助理

NVIDIA AI Enterprise 5.0。圖／輝達提供

輝達（NVIDIA）19日宣佈，推出一系列新的生成式人工智慧（AI）微服務，讓企業能夠在內部的NVIDIA GPU硬體基礎設施上，快速建置並部署自己的AI助理應用程式。

這款名爲「NVIDIA NIM」的微服務，預先訓練的人工智慧模型，在經過最佳化調整後便可在雲端、資料中心、工作站及PC上數億個支援CUDA的GPU上運行；數分鐘之內便可內完成部署，而傳統部署時間往往需數週之久。開發者只需調用標準化API，即可使用企業自有的數據與NIM整合，打造高度客製化且安全可控的生成式AI應用程式。

NVIDIA創辦人暨執行長黃仁勳表示：「成熟企業坐擁龐大數據資產，這些資料可以幫助構建出AI助理。我們與合作伙伴生態系統共同製作的AI微服務，正是企」

NIM微服務涵蓋20多種熱門大型語言模型，包括來自NVIDIA、Anthropic、Google、Meta、Stability AI等公司的模型。它們經過NVIDIA的推理優化，可在億級CUDA GPU上高效執行，爲語音、文字、醫療等領域提供AI服務。

除NIM外，NVIDIA也推出一系列CUDA-X微服務，助力企業加速AI模型的資料處理、訓練、部署等環節。其中的NeMo Retriever可幫助AI助理更好理解與企業業務相關的文字、圖像等非結構化數據。

生態系統多家重量級企業已率先採用NVIDIA新微服務。包含Adobe、Cadence、ServiceNow等應用商將整合微服務增強自家平臺的AI能力;雲端廠商AWS、Google Cloud、Azure也將支援在其上部署NIM。基礎設施廠商如Dell、Lenovo、HPE等也宣佈推出相應的服務器產品。

數據公司如Snowflake、NetApp將協助客戶優化NeMo Retriever的資料管線。衆多安全、MLOps、向量檢索廠商也將與NVIDIA微服務生態系統整合。

NVIDIA AI Enterprise 5.0產品中包含NIM、CUDA-X等微服務，可部署在雲端或內部NVIDIA認證的GPU伺服器、工作站上。公有云平臺將從今年稍晚開始提供支援。

業界人士表示，這是NVIDIA爲企業級生成式AI做全方位準備，充分發揮GPU加速效能，同時賦予企業充分的自主權和控制權。通過調用雲化微服務，企業無需自行開發AI能力，便可快速部署符合內部需求的定製AI助手，實現智能自動化。

NVIDIA微服務將結合內部資料與領先AI模型，對各行業帶來顛覆性的生產力提升；這一創新代表NVIDIA加速運算平臺向更廣泛的企業級AI應用領域邁進之野心。