海納百川》智能產業的倫理觀和風險治理（徐作聖）

在OpenAI執行長阿特曼（Sam Altman）被董事會宣佈開除前，多名研究團隊成員曾寫信警告董事會，稱人工智慧未來可能對人類造成威脅。（中央社）

OpenAI在2023年11月的大內鬥掀開了人工智能的神秘面紗，但「奇點轉折、文明滅絕」的通用人工智能 （AGI）的陰影揮之不去，LLMs 缺乏有效的獲利模式但燒錢太大、太快也造成組織治理極大的困擾。

騰訊公司首席經濟顧問朱嘉明表示，全球科技革命正在逼近「奇點」，影響未來人類社會的走向；世界正在開始從經濟主導科技到科技主導經濟的轉型，而人工智能的技術將首次超越人類，這個獨特（Uniqueness）技術能力的分水就叫做奇點。

隨着「智能奇點」的爭議逐漸明朗化，智能技術的倫理觀與治理觀逐漸受到各界的重視，而其理論基礎主要包括二類：生物/物理學派的「涌現演化論」（Biophysical Evolution）和社會倫理治理論（Socio-ethical Governance）。前者主要是以物理學爲基礎，包括時間循環、耗損系統、系統涌現理論、奇點理論等，由人工智能技術開發業者、資訊科技學者及菁英所支持；後者則多爲社會學者、政府機構、ESG及企業倫理/社會治理等。

從大型語言模型LLM的「文字接龍」連結到系統科學中失控的「奇點」，整個智能系統透過「異物同生」（Chimeric symbiosis）和自主共同認知和組織（Stigmergic Organizations）等特質，發展成爲系統性的結構，而在分散式體系的形成過程中，ESG及企業倫理/社會治理成爲不可或缺的元素以維持系統的運作。

矽谷巨頭紛紛宣稱2030年以前AIGC會無所不在（omnipresent）、無所不能（omnipotent），在這個快速變遷的網路環境中，臺灣絕不能缺席。臺灣發展人工智能技術多年，主要是聚焦在技術面，但企業在未來發展策略的選項上也必須謹慎從事，而政府在AIGC產業的訴求也該明確，在經濟掛帥的「涌現演化論」和社會公平「優質生態環境論」中取得適度的平衡，如此纔是王道，數位部準備好了嗎？

OpenAI的LLMs 給了全球高度的期待，但缺乏有效獲利模式，但燒錢太大、太快，且組織治理有極大的問題。OpenAI的首席科學家Ilya Sutskever 在偶然的機會中感覺AGI有擬人化的趨勢，若進一步的擴張則可能造成文明滅絕，科技倫理與組織治理必須優先考慮這個「奇點」因素，但執行長Sam Altman 似乎並未考慮調整技術發展的方向。

優質的生態系統是智能產業的存活關鍵，而橫向往應用端整合遠優於縱向垂直整合（但矽谷企業卻以後者爲優先），在系統可能失控的時刻，奇點倫理治理必須建構在人本治理的基礎上，也就是以人爲中心的治理模式（Human-Centered Governance）。亞馬遜所投資的新興企業Anthropic，就是利用OpenAI的離職員工Dario Ameodei，來專職從事智能倫理方面的研究，希望發展出更具倫理規範的LLMs技術，可預見的是：智能倫理也將成爲人工智能發展的新趨勢。

矽谷高科技三大族羣：華人富不過三代，猶太族羣「不擇手段」與吃幹抹淨策略經營千秋萬代，但印度人不會告訴你真正的家族傳承。華人傳統上專精於技術、印度裔積極爭取所有高科技的掌舵，但年輕一代的猶太族羣，如OpenAI 首席科學家 Ilya Sutskever，或義大利籍的Anthropic執行長Dario Amodei等人，已逐漸從「純市場金流」的考量中蛻變出來，開始關心智能產業治理的倫理觀及社會責任。

臺灣自2016年以來，在科技部的主導之下，政府獨尊人工智能技術，但技術實質的開展成果卻乏善可陳。在欣賞完OpenAI的大內鬥之後，臺灣產官學研各界除了「隔岸觀火、評頭論足」外，又學到了什麼？而矽谷菁英在面臨「奇點威脅」的時刻，把智能倫理與風險治理放在優先開發的清單中，臺灣各界又得到了什麼啓示？

臺灣主管人工智能產業的三大部會，國科會主掌基礎技術與學術研究、經濟部主管市場應用、數位部主管基礎建設與產業規範，但這三大部會中，國科會缺乏智能技術專業、經濟部也沒有市場運作的知識、而不作爲的數位部不具備智能倫理與產業規範的知識，臺灣已淪爲只知模仿「戀屍矽谷」、搖旗吶喊、搞煙花綜藝式「面線平臺」等宣傳活動的智能產業邊緣化地區了！三位有志於總統大位的候選人想清楚了嗎？

（作者爲國立陽明交通大學科管所退休教授）

※以上言論不代表旺中媒體集團立場※