京東發佈產業大模型：讓大模型在供應鏈上生長

封網來源：攝圖網

託比網訊，7月30日，2024京東雲峰會在上海舉行。在此次峰會現場，京東雲展示了京東言犀大模型落地行業的最新實踐情況，併發布了京東雲企業大模型服務、言犀智能體平臺、智能編程助手 JoyCoder、言犀數字人 3.0 等八項產品。

會上，京東集團技術委員會主席、京東雲事業部總裁曹鵬表示：“通用大模型靠算力堆起來，而企業大模型要靠業務跑出來。”

過去一年，大模型一直保持狂熱態勢，行業經歷了一場“千模大戰”。據中國信通院統計，目前全球的基礎大模型有 1000 餘個，中國大模型的數量佔到全球的 35%。雖然基礎模型的性能在不停提升，但是在個人用戶端，大模型尚未出現具有實質意義的超級應用，反倒是在許多企業端場景當中，已經基於應用逐步展開。

“面向大模型時代，我們認爲，多芯多雲多模型，是大模型真正應用的必經之路。”曹鵬說。

他認爲，“大模型要用起來，才能活起來。”如今，越來越多的大模型應用，正在京東供應鏈上生長，京東供應鏈是大模型應用的超級孵化器，持續將孵化成熟的大模型應用打磨，並於京東內部超100個AI場景全面鋪開，已經有超35萬京東自有配送員、超23萬商家、超5萬副主任級別以上醫生、超2萬採銷運營、超1萬研發人員得到了大模型應用的支持。

比如服務於醫療場景的“京醫千詢”，據京東健康智能算法部負責人介紹，目前內部做了四個不同體量的模型，一個是2b左右的微小模型，在窄域提供某個單一服務，團隊設想其“未來甚至可以放到手機上”使用；二是以14b、22b爲核心的中型體量模型，完成一些醫療諮詢和服務支持類工作；最後是以80b爲核心，專門服務複雜醫療決策和推理能力的大模型。

此外，曹鵬還介紹了京東過去一年的三大關鍵實踐：簡化大模型的使用門檻，降低開發成本，擴大應用覆蓋；開放平臺，基於Agent生態、大模型生態和雲原生生態，提供選擇權給客戶；以及強化數據安全與隱私保護，確保企業大模型服務的可信度和可靠性。

曹鵬指出，優秀的企業大模型要在實際業務中不斷迭代和優化。京東雲推出的企業大模型服務，讓垂直領域數據自進化並注入模型中，提高模型的適用性和準確性；通過大模型壓縮技術，去除對企業權重低的模型神經元，同時提高模型推理速度，降低能耗，使企業使用模型更經濟；通過大模型推拉技術，快速低成本地獲取企業專屬業務模型，推理側模型顯存節約70%，速度提升1.5倍，極大提升企業模型使用效率。

目前，京東內部的智能體數量已超過3300個，這些智能體正在幫助京東完成許多具體的工作任務，提高工作效率。

綜上，具體到企業落地大模型上，曹鵬認爲有三點非常關鍵。首先是簡單，場景的多樣性和碎片化支撐不了高昂的開發成本，必然要將大模型的使用門檻降到最低纔會覆蓋更多應用。其次是開放，基於開放的Agent生態、大模型生態、雲原生生態，將選擇權交給客戶。第三是安全，提供數據安全與隱私保護、AIGC內容合規、語料數據安全管理，讓企業大模型服務可信可靠。

關於託比網：

託比網創始於2012年10月，是以媒體、研究、活動爲主體的國內專業的產業數字化服務平臺，致力於推動中國產業數字化的發展。10餘年深耕，託比網建立了業界全面、系統、深厚的行業關係，在產業數字化服務上有着極大的影響力。