半導體巨擘：AI將成IC設計業強大工具

手機大型語言模型(LLM)挑戰

AI世代到來，IC設計挑戰漸增。聯發科資深處長樑柏崧博士指出，AI模型訓練運算需求七年成長30萬倍，比摩爾定律成長速度高上萬倍，善用AI工具，將成爲IC設計更早跨入AI世代的關鍵。聯發科資深處長陸忠立博士分析，邊緣AI面臨三大挑戰，記憶體數量、頻寬限制及算力，將是未來需要克服的難題。

IEEE CASIF Taipei 2023，電路與系統協會的國際產業論壇12日登場，以AI時代的IC設計挑戰爲題，特別邀請臺積電與聯發科等半導體巨擘專題演講。

樑柏崧表示，聯發科將機器學習導入晶片設計流程，透過大型語言模型自我探索和學習，規劃出晶片最佳電路區塊，大幅縮短開發時間。AI模型推論、訓練需求，將超越摩爾定律成長，AI也將成爲IC設計業者的強大工具。

臺積電張孟凡博士則分析，半導體無所不在，臺積電在各種科技裝置中扮演重要腳色；目前臺積電3奈米已進入量產階段，而AI世界需要更廣泛的科技組合，各類型晶片如邏輯IC、RF、類比、MEMS，重要性不言可喻。

此外，大量資料及運算需求致算力需求提升，高效運算晶片成焦點，摩爾定律推進晶片廠發展進度，電晶體尺寸下降而數量倍增。與之同步的是，封裝連線密度提升，促使臺積電推動轉向覆晶封裝、2.5D、3D封裝技術進程，雙管並進之下，持續維持市場領先地位。

陸忠立以手機AI演進，分享聯發科發展邊緣AI的艱辛，早自2017年開始，AI就開始協助手機進行圖像、瞳孔、臉部辨識等，並且在毫秒之間就能反映；第二階段爲電玩遊戲，其中光追系統及動態幀數的進步，AI運算更扮演重要腳色；第三階段則是AR／VR的衍伸，進一步讓AI追縱手部、眼睛資料，甚至是肢體動作。

目前進入新的世代，主要圍繞生成式AI發展，圖像、影片的生成，及大型語言模型發展。將來毋須聯網便能達成，並且可以發展出個人化的特色AI。

不過陸忠立強調，邊緣AI仍有幾大瓶頸，包含主記憶體數量不足，進行推論運算會佔用一半以上的DRAM空間，另外頻寬及算力限制，也是目前邊緣AI必須要克服的關卡。