百度智能雲曬大模型落地成績單:5個第一!
中國大模型平臺市場第一!
大模型應用落地元年,百度最新成績單出爐——
剛剛召開的百度雲智大會上,百度智能雲一邊秀市場成績,一邊還拉來三星、南方電網這樣的行業大客戶,現場秀落地效果。
此番動作並不稀奇。9月份雲廠商們熱火朝天密集發佈,不同於去年的秀模型、秀算法,今年大家更願意聊應用、聊行業價值。
大模型趨勢,很快到了拿實績說話的階段。
爲何百度智能雲能成爲“標王”?從最新發布看起。
從底層計算到上層應用,五大產品全升級
今年百度雲智大會一共帶來5款AI產品升級,分別是:
它們共同構成企業大模型產業落地的全棧能力,也能分別滿足企業應用大模型的不同需求。
首先來看大模型應用落地最不可或缺的底層算力基礎設施。百舸·AI異構計算平臺正式發佈4.0版本。
它以混合多芯技術爲基礎,由下至上分爲資源層、組件層、加速層和工具層,爲企業提供大模型訓推一體服務。
此次發佈,百舸4.0在集羣創建、開發實驗、模型訓練、模型推理等方面均進行升級,覆蓋企業使用大模型的全流程,在諸多企業用戶重點關心的指標上帶來大幅提升。
具體升級內容可參考:
其次來看大模型平臺千帆,它主要爲企業提供生成式AI生產以及應用全流程開發工具鏈。
千帆大模型平臺3.0在應用開發層、模型服務層和模型開發層全面升級。
應用開發層,千帆大模型平臺3.0全面支持企業級RAG和企業級Agent開發,同時發佈了端到端應用開發工具AI速搭。
企業級RAG支持不限容量知識庫存儲,速度上能達到1.5秒內返回結果。RAG全部環節包括解析、切片、向量化、召回、排序等,都可調可控。企業可以靈活配置出適合自己業務的方案。
澎湃新聞基於千帆企業級RAG,能夠快速從龐大媒資庫中準確檢索內容。可以很好避免大模型幻覺問題,能夠讓企業放心使用大模型在自身生產環境中檢索、回答的結果。
企業級Agent是另一種常見大模型落地方式。它能讓大模型進行自主思考和任務拆解,並調用工具去全流程自動完成任務。
企業級Agent支持文心繫列以及百度各種垂類模型,並進一步提供百度搜索、百度地圖等官方組件支持,另外也支持長短期記憶能力,讓Agent可以記住和用戶的對話內容。
比如讓Agent制定一個國慶節去山西旅行3天的計劃路線,要參考《黑神話:悟空》中涉及的山西經典,且希望住在品質好、性價比高的酒店,好評優先、500元以內,而且想要規劃自駕路線。
可以看到Agent能在不同APP之間跳轉操作,像人一樣在做任務的分解、規劃和執行。
AI速搭則支持一句話搭建應用。通過聊天或者上傳PRD的方式來生成應用,可以零代碼方式生成資產管理、CRM等企業級應用。
過去幾個人幾天才能搞定的應用開發,現在通過對話方式,以分鐘級速度就能完成。不懂開發的業務人員也能輕鬆上手。
而且還能以自然語言對話方式修改需求、增減模塊。
目前通過千帆大模型平臺開發的的應用數量已經超過70萬。
好用的應用開發需要好用的模型提供基礎能力。
千帆模型服務層提供豐富大模型,覆蓋大語言模型和傳統模型。
因爲在實際落地中,傳統NLP、CV模型仍舊有很多市場需求,大小模型混用的模式很常見。
所以千帆大模型平臺3.0進一步豐富了可使用模型。主要包括百度自研的文心繫列,以及新增語音系列能力模型和視覺系列模型。
千帆大模型平臺3.0可提供模型如下:
模型開發層提供最全面的工具鏈。
包括DPO、KTO等模型訓練算法和PTQ等模型量化算法,能夠高效支持超大規模模型微調和定製。
還支持CV、NLP、語音等傳統模型開發,實現數據、模型、算力資源的統一納管和調度,爲企業提供一站式的大小模型開發體驗。
最後來看AI應用層。
雲智大會主要帶來了3款AI應用產品更新。
客悅此次升級了多模態交互能力、多語言能力和端到端洞察能力。僅需3步就能建立一個智能客服。
支持視頻、音頻、圖文輸入的多模態交互客服體驗,可以讓一些難以描述的問題更容易被解決,比如用戶可以拍下儀表盤照片直接詢問。同時支持中英文文檔問答。
引入的大模型客服洞察Agent可以分析用戶反饋用戶對話過程,通過意圖理解、關鍵信息抽取、情感抽取等,可以進一步幫助企業瞭解客戶,如寶馬領悅、通用中國等都已用上這一能力。
曦靈4.0在能力提升的同時成本進一步下降。
它現在支持小時級生成2D人像超擬人數字人、一句話生成3D數字人(10分鐘)、替代真人視頻播報、實時交互對話、直播等能力。
同時2D、3D數字人的應用成本進一步下降。只需199元,即可定製3D超寫實數字人,價格從萬元級別直接降到百元級別。
同時還提供開放的數字人組件平臺,AppBuilder可接入,支持輕量級SDK和標準化接口助力快速集成。
現在,通過小程序,人人都能構建自己的數字人。
文心快碼(智能代碼助手)集成大模型技術,可以提供實時推薦、代碼生成、代碼審查、優化代碼等能力。
此次發佈了企業級代碼架構解釋、企業級代碼審查能力和企業級代碼輔助能力。
其中,企業級代碼架構解釋能讓大模型快速解讀代碼庫,梳理整個業務邏輯以及工程架構。程序員接手項目後就不用再逐行看代碼,可以更快速清晰建立理解。
企業級代碼審查能力解決了傳統code review的問題。大模型參照以往企業私有代碼和知識,可以直接替代人類審查代碼內容,提高整個代碼研發的效率和規範程度。
企業級輔助代碼則能基於以往私有代碼和知識庫,能讓AI編程更貼近於企業自身業務場景。
它能通過快速學習企業過往代碼與規範,使生成的代碼更符合企業要求。目前,文心快碼已經服務超過1萬家企業客戶,幫助數百萬中國開發者提升編碼效率,整體提升研發效率20%。
總結來看,百度智能雲這波大升級,方方面面都是以企業實際落地需求爲核心,覆蓋底層基礎設施、模型能力及工具、上層AI應用全棧技術能力。
爲啥如此旗幟鮮明all in“落地戰”?
因爲大模型應用到了全面爆發的時刻。
拿下蔚來、三星、半數央國企
在此前的活動中,百度副總裁謝廣軍曾將大模型應用趨勢劃分爲三個階段。
第一階段是ChatGPT剛剛誕生後,第一批想要接觸大模型的企業開始囤積算力、嘗試訓練模型,帶火了整個行業的算力需求。
第二階段是從去年下半年到今年年中,開發者們開始在基座大模型上探索AI原生應用開發,開始探索生成式AI可以落地應用於哪些場景。這個過程中,大模型的滲透率非常高,“甚至比過去10年裡AI在生產生活中的滲透都要廣泛”。
到了今年年中,終於一些大模型應用跑了出來,能真正實際落地產生價值,由此也就到了第三階段。
這三階段的劃分,可以基於千帆平臺上文心繫列模型的API調用量增長趨勢作爲參考。最新數據顯示,百度文心大模型日均調用量超過7億次,半年增長超10倍;在千帆平臺上精調模型數量已超過3萬個。
進一步參考行業數據,2024年上半年,大模型領域可統計到的中標金額約爲9.38億元,已經遠超2023年全年大模型中標項目披露金額7.89億元,行業增速非常明顯。
其中,百度在主流大模型廠商中一舉拿下三項第一:最多中標項目數量(17個)、覆蓋最多行業(6個)、中標金額總數最高(9297萬)。超半數央國企都在使用百度智能雲進行AI創新應用落地。
對外披露客戶中,不乏一些對大衆日常生活都產生深遠影響的廠商與企業。
比如三星Galaxy S24系列手機就深度集成了文心大模型,可以提供“即圈即搜”、一鍵總結長文、端側AI實時語音轉錄等AI功能。
“即圈即搜”是三星Galaxy S24系列首創的AI能力,只需在屏幕上圈出/劃出圖像內容,即可聯網進行搜索。
要知道,AI手機是當下領域內公認的趨勢,也是將AI切實引入大衆生活的重要載體。大模型對操作系統的影響,也將帶來移動應用的二次爆發。IDC預計,2024年中國市場上搭載AI功能終端設備將超70%,AI終端佔比將達55%。
智能汽車行業更是與AI具有與生俱來的聯繫。AI助手是智駕座艙內最流行的新趨勢之一,也成爲廣大車主感受大模型趨勢的重要媒介。
比如蔚來就基於千帆大模型平臺,在文心大模型基礎通過提示詞工程打造了NOMI GPT。
它能提供更懂用戶、更聰明、更萬能的AI小助手體驗。目前NOMI已經陪伴近20萬車友家庭。
目前,百度智能雲已在政務/智慧城市、交通、能源、製造、汽車、金融、泛科技、教育領域探索大模型應用落地場景。
那麼問題來了——
爲何是百度?
拿下多個行業第一,百度憑什麼。
其一,AI是百度的基因與內核。過去十餘年在底層技術上研發積累,爲百度模型自研、模型開發能力對外輸出以及自身大模型應用落地提供堅實基礎。
由此,百度逐漸構建了AI全棧能力,從底層計算平臺到上層應用落地。尤其是大模型趨勢到來後,百度快速針對趨勢推出了面向行業的大模型平臺和一系列行業產品,在大模型產品佈局上處於國內第一。
其二,百度多年的AI落地經驗和自身應用構建經驗,也爲大模型能力輸出提供可靠參考。
最直接的例子就是千帆大模型平臺對外提供豐富工具鏈,這些都是百度大模型開發經驗的對外輸出。百度副總裁謝廣軍也提到,他們希望企業用戶能在千帆大模型平臺上形成自己的數據飛輪,因爲百度自身諸多業務就是這樣運作的。
以及最新動向中,百度察覺到大模型趨勢激發千行百業擁抱AI的熱情,但並不是完全捨棄傳統AI。還有諸多企業存在大小模型混用、傳統NLP/CV模型的需求,因此在千帆大模型平臺3.0上進一步豐富這方面能力。
其三,百度智能雲的百舸構建的異構算力體系,可以爲行業提供更多元的算力選擇。
尤其在大模型價格戰的趨勢下,“高效”、“充分”的底層算力,也能讓百度進一步對外提供更具性價比的模型算力服務。
如上方方面面,共同構成了百度智能雲的“多個第一”。
百度集團執行副總裁、百度智能雲事業羣總裁沈抖在雲智大會上表示,過去的一年,是大模型從技術變革走向產業變革的關鍵一年。
人類歷史上又一次生產力躍遷,正在加速發生。
正如蒸汽機之於第一次工業革命、發電廠之於第二次工業革命,計算機之於第三次工業革命,雲計算基礎設施是眼下第四次工業革命的“底層基建”。
與此前有所不同的是,智能時代下的基礎設施,硬件設備只是重要構成之一,建立在算力之上的模型、工具鏈與應用開發工具,更是開掘智能時代“礦產”的重要工具。雲智大會上,百度的最新亮相,正是這一邏輯的具體展開。
隨着大模型更大規模應用落地趨勢開啓,智能時代底層基建的建設與發展也將進入新一輪加速期。
在這之中,百度智能雲作爲主力選手,已然做好全面準備了。