羣聯電子執行長潘健成接地氣 一圓普世AI夢

羣聯期待與其他人一起建立地端生成式AI生態系,告訴大家這會賺錢。 圖/顏謙隆

羣聯電子執行長潘健成 攝影/顏謙隆

小檔案 潘健成

人工智慧(AI)風起雲涌,四大雲端服務供應商(CSP)大廠包括亞馬遜(Amazon)、微軟(Microsoft)、谷歌(Google)和臉書(Meta)紛紛投入巨資,搶食AI雲端運算大餅,羣聯電子執行長潘健成選擇從地端AI運算與儲存系統切入,以全新的「平民AI」,打造家用運算(Home Computing)新世界。

潘健成說,四大CSP廠打是天上的軍備競賽,動輒數十萬美元至數百萬美元起跳,但廣大的企業及個人,無法負擔這筆昂貴的支出,卻又想快速跨入AI領域,提升自己的競爭力,該怎麼辦?羣聯提出的「平民AI」,就是答案。以下爲潘健成接受本報獨家專訪摘問。

AI要平民化 需微調訓練

問:在儲存市場上,生成式AI對記憶體帶來很大的改變,您怎麼看這個趨勢?

答:生成式AI是什麼?一個是訓練(training),另一個是推理(inference),訓練和推理是機器學習和深度學習中不可或缺的兩個步驟。

其中,訓練是從無到有、深度學習重要的策略,這包括預先訓練(pre-training):即設計一個方程式,通過大量數據進行學習,這需要GPU及高頻寬記憶體(HBM),HBM就等同32條高速公路,運算才跑得快,但這是四大CSP廠投入巨資,去做的雲端運算生意,不是羣聯的領域。

而微調訓練(fine-tuning):企業、金融機構及政府單位通過AI,完成特定任務,答案要標準化與精準化,所以通用型AI模型需要fine-tuning,這必須依靠應用場景單位組織自己微調通用型AI模型,以達到自己想要的目的。

AI模型微調訓練涉及隱私、資訊安全、甚至法規約束,許多企業、金融機構、與政府單位,不可能將自己的機密敏感資料,上傳到雲端,委由CSP廠商進行AI模型微調訓練,因此產生了AI落地應用市場上的解決方案供給缺口。

羣聯看好此一市場潛力龐大,推出地端的AI模型微調運算解決方案,也就是該公司的AI人工智慧運算服務「aiDAPTIV+」技術方案,透過羣聯獨家的專利客製化SSD,將SSD當作DRAM來使用,亦即羣聯ai100方案,擴充現有的AI伺服器與工作站(Workstation)的DRAM空間,甚至提升運算效能。

並把整體AI模型微調運算的硬體價格降下來,讓產官學等各種機構與行業,都能夠以「平民化」的方式,進行AI模型落地微調運算,擴大AI應用的普及率。

在羣聯AI方案公佈後,已經引起很多人注意及詢問,包括律師、會計師、銀行、軟體服務商、甚至IP公司等。

aiDAPTIV+ 能自主AI

問:「aiDAPTIV+」方案,在AI市場的優勢是什麼?

答:在AI產業,最大利益是美國人拿走了,第二大利益是韓國人(SK海力士的HBM毛利率75%),第三是臺積電,再來是臺灣組裝廠,毛利率從3%,變成10%。

但目前臺灣的AI,都是被動式的,美國人叫你做什麼,你就做什麼,有主動式的嗎?羣聯的「aiDAPTIV+」方案,就是主動式AI,也是所謂的「平民AI」,因爲我要做到便宜又好用,可以符合廣大企業及個人的運算及儲存需求。

很多人問我,什麼是創新,我的回答是:市場有需求,但是供應商沒有方案,所以我要找出方案。

羣聯的「aiDAPTIV+」,是羣聯AI小組研發人員自主開發而成,他們是一羣打電動小子。2023年他們想要花200萬美元,建構羣聯內部使用的GenAI模型微調訓練設備,但由於2023年景氣狀況不佳,羣聯的AI研發團隊,就決定自己動手做。

在羣聯擅長的SSD領域,研發創造出獨家專利的ai100技術方案,將SSD與現行的AI伺服器與工作站進行無縫整合,擴充AI伺服器與工作站裡的DRAM,提升AI模型的運算規模甚至效能,讓羣聯內部的AI研發團隊在低成本的條件下,成功打造出羣聯內部自用的生成式AI助理。

羣聯瞭解市場上對生成式AI的落地應用的迫切需求,因此,將此方案進行產品商業化後,開始大力推廣。

AI要普及 便利是必需

問:爲什麼地端的生成式AI模型微調訓練有商機?

答:因爲現在生成式AI運算硬體產品門檻很高,我們都知道很貴,但我的AI方案「價格很平民」,且可以符合現代商業環境中Home Computing的封閉不連網路的安全使用場景。

只要用二家(輝達及超微)的GPU卡,加上我的固態硬碟(SSD),就可以把價格大幅往下降,並做到一模一樣的事。大家不需要買最貴的,最高級的GPU,因爲開Toyota,或BENZ去高雄,都會到達目的地。

其次是「使用者便利性」,在PC DOS時代,只有工程師會用編碼,但有了win 95,小孩也會用。我已解決了生成式AI運算成本太貴的問題,現在要解決的是,只有工程師會使用的問題。

所以,羣聯積極尋找合作伙伴加入,要找系統整合(SI)、軟體公司,整合各種AI模型微調訓練的上下游夥伴,讓終端使用者滑鼠拉一拉,跑一跑,就可以自己進行AI模型微調訓練,接着在電腦螢幕畫面上,問一問,就可以得到終端使用者自己專業領域想要的精確答案。

生成式AI 活化PC產業

羣聯期待與其他人一起建立地端生成式AI生態系,告訴大家這會賺錢,完成臺灣客製化生成式AI,這是主動式AI,不是被動式AI,想想看,這可以造就多少就業機會,而且可以迅速讓生成式AI應用迅速全球普及。

臺灣的PC產業曾創造輝煌紀錄,但這羣人現在比較辛苦,毛利比較差,我們現在做的是類PC的概念,重新定義Home-computing概念,站在PC的基礎上,向上衝刺生成式AI商機。

我大學畢業時,政府在推動工業2.0政策,補助工廠投資智慧機械手臂,進行生產自動化,當時的智慧機械手臂,一個要花費新臺幣1,500萬元,20年後,一個機械手臂只要15萬元,現在半導體全工廠都是智慧機械手臂。

我預期,在羣聯的「平民AI」推出後,生成式AI運算從天上到地下,可以更快普及。

過去幾年市場,曾出現一些讓人很興奮的題材,像AR、VR,但我覺得不興奮,因AR、VR不夠具有利基條件,也不是「必要」產品,但生成式AI是「必要」產品,企業愈早進入生成式AI領域,將愈有競爭力。