半導體受惠AI成長 先進封裝成未來決勝點

儘管如此,知識力專家社羣創辦人曲博指出,電晶體越小,理論上晶片就越小,一片晶圓能做出來的晶片就會變多, 所以理論上單位成本會隨電晶體的縮小而降低。然而先進製程發展到一個程度之後,技術複雜度大幅增加,特別是極紫外光(EUV)一旦用下去,成本立刻暴增,導致進入3奈米,成本不但下不來,反而是增加,更遑論未來進入2奈米甚至1奈米。

無論是電晶體縮小來到極限,抑或是成本因素的考量,未來半導體產業的重要發展,就是採用先進封裝技術把不同的晶片堆起來,讓電晶體的密度再增加。臺積電日前已推出其晶圓級系統(SoW)產品,該產品允許封裝大量晶片(邏輯晶片、複合SoIC封裝、HBM和其他晶片),以及在完整12英寸矽晶圓尺度上的電源和熱模組。與CoWoS和3DSoIC相比,先進封裝複雜性和能力的顯著提升,因爲整個運算系統可能會被封裝在單一晶圓中。

但曲博也提醒,臺積電投入這一塊雖然花了很多功夫,但是先進封裝這個領域英特爾(Intel)其實技術也是很強的,大家一定要分清楚一件事, 在「先進封裝」上,臺積電並沒有絕對領先英特爾,臺積電是在「先進製程」上領先Intel。所以隨着先進封裝這個領域的重要性慢慢提高,臺積電並沒有大意的本錢。也可預見,臺灣相關先進封裝設備與技術的供應鏈廠商,未來應該會有不錯的成長空間。

生成式人工智慧仰賴大型語言模型的訓練,現在的做法是分三階段,第一個階段是「預訓練」、第二個階段是「微調」(Find Tune)、最後一個階段是「推論」。預訓練需要大量的圖形處理器運算,,訓練一個月的成本就要1,000萬美金。但是微調就不一樣,微調是用大量的數據進行標註、微調參數而已,所以並不需要大量的算力, 而是需要大量的高頻寬記憶體(HBM)。

頂級GPU太貴、中小企業想用卻用不起,羣聯電子本身也遇到相同痛點,遂開始投入研發,以自身於記憶體領域優勢,在近期推出平價版生成式AI解決方案。GPU決定算力、HBM則決定模型大小,羣聯董事長潘健成就曾指出,羣聯以SSD取代造價高昂的HBM系統,加上輝達消費級GPU打造,將傳統工作站升級爲小規模AI伺服器,硬體成本大幅降低;儘管運算速度仍不如大型CSP運端運算,不過相當具備成本優勢;他打比方說道,例如臺北到高雄坐飛機其實最快、但是高鐵纔是性價比最高的選擇。

想知道更多有關半導體先進封裝、矽光子(CPO)技術的發展現況,以及數位孿生、人形機器人、全自動駕駛等相關AI熱點技術目前發展到哪,請見本週【財經相對論】由曲博爲您準備的一堂AI通識課。