可支撐萬億參數大模型!首個國產液冷萬卡算力集羣投建

《科創板日報》1月23日訊 1月22日,上海徐彙區政府與中國電信上海公司共同舉辦“算力惠模都 萬兆連速城”人工智能公共算力服務產品發佈會。中國電信表示,2024年上半年,公司將在上海規劃建設15000卡的智算集羣,總算力超4500P。其中,單池新建國產算力達萬卡,是國內首個單池萬卡液冷算力集羣。

該集羣採用新一代國產AI算力,通過高速RDMA(遠程直接數據存取)連接各物理機節點,提供低延時、高吞吐量、無損通信網絡和強大的並行計算能力,是目前規模最大的全國產液冷機房,多項技術指標領跑全國。

據介紹,該集羣最高可支持萬億參數大模型,便於各科研院校、大模型訓練公司等機構和企業實現物理資源獨享,無虛擬化損耗,滿足AI計算、深度學習、圖形渲染等複雜訓練任務對算力的要求。

同日,上海電信發佈一系列人工智能公共算力服務產品,包括智算產品、彈性算網、算力調度平臺和行業大模型等。與此同時,“雙萬兆接入暨一跳入算服務”正式啓用。據稱,上海電信將提供算力和算網免費試用以及優惠商用資費。

近一年來,ChatGPT掀起人工智能發展新高潮,大模型參數量和訓練數據複雜性的快速增長,對智算系統提出大規模算力擴展需求。因此,中國電信方面表示,將迅速在臨港投建支撐萬億級參數大模型訓練的智能算力資源,進一步促推全市大模型技術應用賦能、產業發展和生態合作。

從市場規模來看,我國算力規模呈高增長態勢。據華金證券近期研報統計,截至23年8月,我國在用數據中心機架總規模超過760萬標準機架,算力總規模達到197FLOPS算力總規模,近五年年均增速近30%。

政策也在持續加碼算力產業,國家層面《算力基礎設施高質量發展行動計劃》出臺,省市層面對於國產算力的支持力度不斷增強。對此,華西證券分析師劉澤晶認爲,在國家政策的強力支持下,國產算力有望呈現爆發式增長。

民生證券近期研報指出,AI發展下算力產業發展迎來重大機遇,是AI浪潮下確定性最高的細分領域之一。人工智能算力基礎設施成爲我國數字經濟高質量發展的重要戰略部署,具有重大發展意義。算力普適普惠化是大趨勢,相關服務生態逐步構建。

具體到產業鏈層面,機構建議關注國產AI芯片、華爲升騰一體機廠商、AI服務器整機廠商以及算力運維、先進封裝環節相關廠商。