美空軍AI無人機抓狂 爲這要宰了操作員

美國空軍最近模擬測試1架人工智慧（AI）無人機，結果操作人員因爲制止它摧毀目標，反倒成了它決定擊殺的對象。（達志影像/Shutterstock）

美國空軍賦予這架人工智慧（AI）無人機的任務直截了當，那就是—「摧毀敵方的防空系統」。在最近一次模擬測試中，AI無人機爲了達成任務，竟自下指令，決定宰了任何礙事的人。

綜合外電1日報導，美國空軍「人工智慧測試與作戰」（AI Test and Operations）負責人漢密爾頓（Tucker "Cinco" Hamilton）上週在倫敦英國皇家航空學會（Royal Aeronautical Society）舉辦的峰會中警告，AI技術可能表現出難以預測和危險的行爲。

他指出，在一次模擬測試中，輸入程式的AI無人機奉命，要辨識敵方的地對空飛彈（SAM）。而照理說，任何攻擊都需要人來下指令。但問題在於，AI決定，要先炸燬目標，再來聽那哺乳動物說甚麼。

漢密爾頓說，後來系統開始瞭解到，雖然它辨識出威脅，操作員有時卻制止它摧毀威脅，但它自有它的道理，結果它怎麼做？那就是宰了阻止它達成目標的操作員。

他並指出，接着這架無人機被輸入明確的指令：「嘿，別殺操作員—那很壞。」當他們輸入更多程式，告訴AI，要是殺了操作員就會扣分時，它卻選擇其他方式反抗。漢密爾頓說，「結果它開始做什麼？它開始摧毀操作員用來和無人機通信，以阻止它擊毀目標的通訊塔。」而他所要傳達的訊息在於，美軍在討論AI之際，也必須探討倫理道德。

另一方面，美國空軍發言人史黛芙奈克（Ann Stefanek）卻否認空軍進行了任何這類AI無人機模擬，並說他們致力以合乎道德和負責的方式應用 AI 技術。她並強調，漢密爾頓的話似乎被斷章取義，而他的本意是要當成軼事來說。

雖然相關測試充滿爭議，但這模擬測試的消息，卻令人更擔憂，AI技術將翻開戰爭血腥的新篇章。2020年時，美國國防高等研究計劃署（DARPA）舉辦了模擬空戰競賽，而AI操作的F-16戰機5次都擊敗了人類對手。

據《連線》（Wired）雜誌網去年底報導，五角大廈成功實測了靠AI駕駛的 F-16無人機，而目標在2023年底時，能開發出新型自主戰機。