北京智源人工智能研究院副院長林詠華:基礎大模型“最後一公里”問題比小模型更具挑戰

10月26日,在由界面新聞主辦的2023 REAL科技大會上,北京智源人工智能研究院副院長林詠華表示,質量問題是AI落地的“最後一公里”問題,而大模型在這方面會比小模型更具挑戰。

她認爲,大模型的訓練數據、數據配比、訓練數據輸入順序,訓練過程中的所有超參設置都沒有完全公開,因此難以完全復現大模型的能力和問題;同時,大模型進行算法修改和重新訓練的投入極高,使得企業很難對其進行修補;算法、數據和過程都有可能存在“debug”,問題成因難以分析。