百度謝廣軍:百模大戰和價格戰之後,大模型下一個戰場在工具平臺
AI大模型對生產生活的滲透,已經在方方面面。
甚至可以說,它帶來的影響比過去十年裡,AI對各行各業的影響更加深遠。並且一步一步發展至今,從“探索”到“價值產生”,已經變成了企業和模型廠商共同的迭代。
拿企業來說,它們不再單純追求擁抱大模型,而是開始明晰那些業務需要大模型,大模型如何絲滑融入自己的工作流中,以及需要什麼樣的模型及應用。
而模型廠商這一邊,拿到企業更明確的需求後,更懂得怎麼讓大模型業務真正深入垂直場景,提供哪些提效的工具,事半功倍地發揮大模型的價值。國內廠商在一年半內經歷了百模大戰和價格戰,大模型的下一個戰場在工具平臺上。
以上,是在2024百度雲智大會上,百度副總裁謝廣軍分享的一線洞察。
他順帶公佈了一組數據:
過去一年多以來,千帆平臺日均調用量超過7億次,累計幫助用戶精調了3萬個大模型,開發出70多萬個企業級應用。
並且,隨着大模型在產業滲透的深入、需求的明確、技術的進步,百度千帆大模型平臺3.0應運問世。
交流會上,謝廣軍拉明時間線,按照大模型調用趨勢的變化,將過去一年半多的時間劃分爲了三個階段。
第一階段,是最爲轟轟烈烈的百模大戰時期。
這是一個屬於探索和學習的階段,接觸大模型的人/團隊,都在找卡、囤積算力,爭相採購GPU/AI芯片,下場嘗試研究和訓練模型,這時候企業的需求大部分還是模型調用和精調。
謝廣軍打了個比方:那時候,最重要的事情就是跑馬圈地。
也就是對標OpenAI、Anthropic等搶跑,通過迅速擴張或搶佔資源來確立自己的優勢地位。
大夥兒秀肌肉,最主要的目的是向外界證明我們也能訓練出大模型的可行性。
第二階段,重點轉向對應用場景的探索。
很多企業和開發者,不再滿足於將AI大模型視爲一個獨立的工具,而是將其視爲一種全新的生產力工具。
也是因爲隨着模型能力的初步具備,企業開始探索在業務系統當中怎麼把大模型應用起來,改造現有的系統或者創造全新的應用,從而提升業務效率和價值。
這一時期,智能問答、智能寫作等智能助手類應用如雨後春筍般涌現。
但謝廣軍指出,真正在生產中使用並創造價值的應用仍然屈指可數。
從今年5月開始,百模大戰演化成價格激戰——降價,激發了企業對大模型的調用量,促進一批場景的探索,一定程度上加速了大模型落地。
第三階段,也就是現在,大模型應用進入了深入場景和深度融合應用的階段。
如今,隨着模型效果的提升和價格的下降,真正的落地應用終於出現了。
謝廣軍舉例表示,教育領域、製造行業、金融行業、醫療領域,大模型帶來的智能系統都在各司其職。
與此同時,大模型開始與傳統軟件深度融合,重塑生產力工具。
特別明顯的,企業不再滿足於智能助手等單一形態的應用,而是將大模型賦能於進銷存系統、ERP系統等傳統應用,推動業務創新和效率提升。
總而言之,如果把第一階段的標識是百模大戰,第二階段的代表是價格戰,那麼,第三階段的典型則可以歸於“應用平臺工具”身上。
這也是爲什麼百度千帆大模型平臺一直不停升級的原因。
謝廣軍回顧了過去一年半的時間裡,百度千帆大模型平臺順應階段性變化,都有哪些進展。
第一階段的百模大戰時期,也是B端使用模型的嚐鮮期。
百度智能雲推出了千帆大模型平臺1.0,其中包括模型微調的工具鏈和大模型調用接口,模型調用開始起量。
第二階段,千帆進化爲2.0版本,“應用開發”來到臺前。
除了支持模型服務和開發,千帆2.0主要增加了AppBuilder這樣的AI原生應用開發平臺,支撐RAG、Agent應用開發的各種需求。
進入今年,爲了更系統地支持企業客戶在應用開發、模型推理、模型開發等層面的大量且複雜的需求,千帆2.0持續演進,不斷迭代。
不過,雖然第二階段的千帆已經開始在企業級生產力場景裡落地出力了,但謝廣軍分享了自己的觀點:
爲了適應日漸加深的深度,適應企業生產力的各種需求逐步演化,於是,千帆大模型平臺3.0應運而生。
全面從模型訓練轉向全棧開發,開啓第三階段的故事。
千帆大模型平臺3.0是面向生產力場景的企業級的一體化服務平臺,主要爲企業提供生成式AI生產以及應用全流程開發工具鏈。
在以下三個層面,均有全面升級:
• 模型開發層
• 模型服務層
• 應用開發層
謝廣軍談到,千帆3.0的模型開發層提供最全面的工具鏈。
旗艦模型ERNIE 3.5、ERNIE 4.0 Turbo還首次開放SFT,可預置獨家高質量混合語料。
原因無外乎兩點。
一來實際業務反饋,不管從質量還是數量來看,企業自有數據都還有提升空間。預置獨家高質量混合語料供企業用戶在平臺上擴充,可以增強模型最終效果。
二來,垂直領域模型後訓練時混入通用語料,能進一步緩解通用能力遺忘這個問題。
千帆3.0的模型服務層提供豐富的模型。
主要包括百度自研的文心繫列,以及新增語音系列能力模型和視覺系列模型。
自研模型中,包含了最新模型ERNIE 4.0 Turbo、ERNIE Speed Pro、ERNIE Lite Pro;主力模型ERNIE Speed、ERNIE Lite依舊免費;垂直場景大模型新增了ERNIE Novel等。
除大語言模型外,考慮到傳統語音、視覺模型在實際落地時仍有需求,大模型與垂類場景模型的協同混用很常見,因此,模型服務層也包括傳統模型在內。
謝廣軍用一張圖展示了千帆3.0模型服務層可提供使用的大模型:
應用開發層提供的,則是企業級RAG和企業級Agent的開發工具千帆AppBuilder和端到端應用開發工具AI速搭。
謝廣軍分享了一個數據:截至目前,千帆大模型平臺已經幫助用戶開發了超過了70萬個應用。
千帆大模型平臺3.0提供的是企業級RAG和企業級Agent的開發工具。
針對企業落地大模型的高頻應用場景,千帆3.0從檢索效果、檢索性能、存儲擴展、調配靈活性四方面對企業級檢索增強生成(RAG)進行了全面升級;
針對企業級Agent的開發,千帆3.0增加了業務自主編排、人工編排、知識注入、記憶能力以及百度搜索等80多個官方組件支持。
AI速搭則可以端到端地開發應用,通過一句話或者通過PRD,就能一步一步生成包括表單、數據、流程的生成端到端應用,還可以基於低代碼GUI方式對生成的應用修改和完善。
大模型的落地,除了基座大模型能力的提升,本身還是非常重視在行業場景當中的能力增強和應用,謝廣軍稱之爲“深入場景”。
今天,百度智能雲千帆大模型平臺,在千行百業中細分場景,然後不斷提升場景中的模型能力、數據能力以及應用能力。
與此同時,千帆還推出了一系列應用樣板間,讓用戶學會模型精調樣板間,以及如何給大模型輸入模板。
通過這樣的方式,用戶入門門檻被不斷降低,大模型在若干行業場景的積累愈發深厚,推廣滲透也更加深入。
經過一年多的探索,今天有很多的用戶需求已經成熟了。
“擁抱大模型”已經不是企業的第一要務,把大模型在業務流程中跑起來,能把大模型用好,在業務中產生價值,纔是有真本事。
大模型的效果、數據的合理使用、應用的構建方法等,是現在企業結合大模型時關注的焦點。
“現在是很好的時機。”謝廣軍說,用戶也會挑選業界領先的夥伴合作,藉助生態共同成長。
隨着應用本身的深入落地,平臺會越來越多,機會也越來越廣。
再加上用戶側的需求更加清晰、更加務實,平臺能夠精準地持續完善相關功能,讓大模型真正在業務場景中深入落地。
也就是說,企業真的準備好迎接和運用大模型應用的蓬勃生態。
而當企業對大模型的判斷和需求更加成熟時,大模型廠商又迎來了新的機會。
在這樣的新趨勢下,謝廣軍也簡明勾勒了大模型產業落地的未來線條。
首先,隨着技術的迭代,模型推理成本的降低,大模型的價格會持續下降。在這次2024百度雲智大會上,也公佈了一個數據:過去一年,文心大模型旗艦模型累計降價超過90%。
持續的降本能給客戶產生持續的收益,促使更多企業用得起、用得好。
當然了,當模型廠商還沒有達到技術迭代升級的情況下,純粹在資本推動下掏腰包做補貼,低價必然不是長久之計。
其次,雖然不管新模型還是老模型的價格曲線都會下落,但“價格下降”不是制勝一擊。
研究更好的推理架構,用低算力推理達到更好的模型效果,是值得長期重視的關鍵。
效果不行,再便宜也用不起來。
最後,卷價格、卷效果,最終都會迴歸於各個廠商對自身成本的優化與控制。
相同效果下,模型廠商不斷升級工程能力,降低自身成本,才能給出更實惠的模型使用價格,才能讓更大衆的場景把大模型用起來。
從千帆大模型平臺3.0身上,我們可以看到百度對大模型產業落地整體趨勢判斷的縮影——
從最初的提供大模型調用和精調服務,到如今面向生產力場景的企業級一體化服務平臺,不變的是始終與一線需求共同迭代。
隨着大模型真正的落地與融入業務流程,屬於工具平臺的戰事即將打響。率先迎接機遇和挑戰的千帆3.0,會是這個戰場上最耀眼的一員。