再掀AI熱潮 華碩臺智雲繁中版上路
華碩26日宣佈,子公司臺智雲推出繁體中文強化版FFM-Llama 2大語言模型。圖爲華碩雲端暨臺智雲總經理吳漢章。圖/本報資料照片
搭上生成式AI風潮,華碩26日宣佈,全球首發推出繁體中文強化版FFM-Llama 2大語言模型,提供雲端、地端及AI PC等多樣態大語言模型及完整AFS(AI Foundry Service)服務,加速企業AI 2.0落地應用。
華碩雲端暨臺智雲總經理吳漢章表示,過去30年來,臺灣ICT產業基於開放架構,一躍成爲全球數位創新重要夥伴,在晶片、半導體、系統與資訊服務產業百花齊放。
臺智雲以開放模式提供可信賴大語言模型,累積AI超算功能及完整AI工具平臺,降低企業進入門檻,加速AI 2.0應用,期待能與合作伙伴延續臺灣產業優勢,實現普惠AI、發展以人爲本的智慧科技。
華碩表示,臺智雲FFM-Llama 2以最新大語言模型Meta Llama 2爲基礎,藉由AI HPC超級電腦算力、高效平行運算環境與大語言模型切割技術,訓練大量臺灣在地語料,大幅提升FFM-Llama 2繁體中文能力;全系列模型可進行微調、部署與推論,企業用戶亦能以自訂系統提示詞,讓AI模型思考更在地、更精準迴應企業需求。
臺智雲AFS推出全參數及高效率模型微調(Parameter-Efficient Fine-Tuning;PEFT)功能,在GPTQ 4-bit高性能壓縮技術優化下,提供經濟實惠的雲端或地端模型推論方案;「福爾摩沙大模型」發佈至今,已服務超過70個大型企業,電信業者臺灣大哥大便將智能客服導入生成式AI應用,未來可望擴展至集團不同產業面以精進客服效率。
利用臺智雲「AIHPC超級電腦服務」、「CCS(Container Compute Service)容器運算服務內建生成式AI映像檔」、「AFS(AI Foundry Service)企業級生成式 AI 解決方案」及「OneAI機器學習MLOps nocode AI平臺」四大生成式AI算力平臺,全方位滿足產業對生成式AI可信賴、可掌控、資料安全及地端佈署需求。