高通攜手Meta Llama 3 引領終端設備AI新紀元

高通實現Meta Llama 3在搭載Snapdragon的裝置上運行。圖/高通提供

在人工智能浪潮襲捲全球的當下,高通技術公司與Meta宣佈達成重要合作,將Meta最新開源的大型語言模型Llama 3最佳化,實現在搭載高通Snapdragon旗艦平臺的終端設備上直接本地運行。

高通長期專注於推動終端設備AI的發展。此次與Meta的合作無疑將爲市場帶來顛覆性的變革;Llama 3作爲Meta最新一代大型語言模型,在自然語言處理、內容生成等領域展現出驚人的能力。一旦移植到終端設備之上,勢必引發全方位應用的創新浪潮。

Llama 3能在終端設備本地運行,意味着無需網路連線,即可實現多種AI應用場景,包括語音辨識、智慧問答、內容創作等,極大提升了實時反應能力。更重要的是,數據完全存儲在設備內部,杜絕了來自網路傳輸環節的隱私和安全隱憂。

關鍵在於高通業界領先的CPU、GPU、神經網路處理器(NPU)等硬體,加上精心設計的記憶體系統和軟體算法,使大型模型能在移動平臺高效、穩定地運行,充分釋放性能的同時兼顧功耗和散熱,爲終端AI應用的發展揭開新的大門。

高通資深副總裁暨技術規劃和邊緣解決方案業務總經理Durga Malladi表示:「我們與Meta的深度合作,旨在讓開發者能夠輕鬆存取各種資源,將Llama 3的強大功能充分引入Snapdragon生態系統,催化新一代令人興奮的AI創新浪潮。」

事實上,高通已經在自家的Qualcomm AI Hub上整合近百個經過高度優化的AI模型和工具,供開發者直接調用。透過這一合作,Qualcomm AI Hub將爲開發者提供更多支持,協助他們加快在Snapdragon平臺上部署Llama 3的進程。

對消費者而言,這場AI革命正在悄然到來。未來,將在手機、平板、PC乃至VR/AR設備等終端上,體驗到更智能、更個性化、也更安全可靠的AI助手,實現人機交互的嶄新高度。