終端AI時代來臨 NPU架構AI晶片崛起

AI發展日新月異（AI生成圖）

AI不斷演進（示意圖：shutterstock/達志）

耐能智慧自2015年成立，迄今已經獲得了超過1.9億美元融資。創辦人劉峻誠說，當初耐能剛宣佈要推出AI晶片時，大家都笑他，但如今耐能智慧的晶片，效能卻可以跟世界一級大廠平起平坐。耐能EDGE GPT解決方案產品憑藉其強大的算力、優異的性能表現、高效的功耗控制、便捷的部署以及可靠的訊息安全保障等特性，在學界與業界都樹立技術領先的市場標竿和典範。

長期以來在人工智慧、機器學習等前沿技術領域保持全球領先的史丹佛大學，今年也正式宣佈採購耐能的EDGE GPT解決方案，進一步加強學校在先進科技領域的教研能力，並推動更個性化和智能化的教學模式，提高學習效率。

在商業應用方面，耐能智慧AI晶片有四大產品線，包含邊緣伺服器、車用、安控及AIoT，高通除了是耐能股東之外，也與其進行各式各樣合作，其中高通在其RB1、RB2機器人平臺搭載耐能晶片，讓高通AI算力提升4倍，爲智慧掃地機器人及無人機部署物體檢測等能力。

耐能邊緣伺服器晶片可以像樂高積木一樣，進行多顆堆疊，達到高算力、低功耗效果，適用於小型伺服器。另外耐能也聚焦車用，已經打入前／後裝車用一級國際大廠，例如後裝晶片應用打進日本豐田車廠、前裝也有德系車廠進行緊密合作。耐能在2023年收購臺達集團晶睿通訊旗下子公司歐特斯，準備切入先進駕駛輔助系統（ADAS）及駕駛行爲偵測系統（DMS）。

即便過去在半導體與IC設計上，與臺灣存在很強競爭關係的韓國，耐能晶片也有辦法打入當地市場。例如跟Line同集團的韓國搜尋引擎Naver，以及全球第四大、韓國第一大安控產品領導廠商韓華集團等，都選擇採購使用耐能的晶片。

雖然GPU晶片目前在AI市場上佔據主導地位，但AI應用的爆發式發展，也產生了巨大的能源消耗。未來電費將可能佔據整體AI運營成本的40％。目前碳中和已是大勢所趨，除了更高的算力、更優異的性能，實惠的成本與節能勢必會成爲客戶考慮的因素。

CPU其實是專爲邏輯運算而生，電腦的主要的運算其實就是CPU在做；GPU一開始設計則是專爲遊戲或圖像運算去設計的專用晶片；只有NPU纔是真正專爲AI而生的晶片，也因此它本身在性能、效率跟功耗上，相較於CPU與GPU在AI上使用會有大幅的綜合優勢。

劉峻誠打比方說，如果把未來百花齊放的AI應用比喻爲城市裡的大街小巷，那麼CPU之於這座城市就像是坦克車，GPU則像是搬運貨物的大卡車，NPU則如同一般家用房車。雖然CPU與GPU各自有當初設計的目的與優點，但若說到要在城市裡面行駛與通行，那當然還是能夠在城市裡鑽來鑽去的小客車最省油、最好開，這就是NPU晶片在未來AI應用上的優勢。

想更進一步瞭解NPU晶片技術、終端裝置邊緣運算的發展現況，以及臺灣半導體與IC設計過去的成功經驗在未來NPU AI時代有何優勢？耐能科技創辦人劉峻誠在本集【財經相對論】裡，深入淺出地帶您瞭解未來AI應用爆發時真正趨勢之所在，敬請至Youtube工商時報頻道收看。