字節跳動宣佈開源AI訓練引擎:最快提速3倍以上

6月28日,字節跳動火山翻譯團隊宣佈推出LightSeq訓練加速引擎,並向全球開發者開源。據悉,這是業界完整支持Transformer模型流程加速的訓練引擎,最快可提速3倍以上,幫助從業者大幅提升模型生產效率

資料顯示,Transformer是自然語言處理、計算機視覺等AI技術領域最常用的基礎模型,被廣泛應用在機器翻譯、文本生成、文本摘要、圖像處理時間序列預測任務中。訓練和推理則是AI技術的兩個主要過程,相當於學習知識和解決問題