自然：當AI有意識？科學家籲該制定應對計劃了

如果AI變得有意識，我們該怎麼辦？科學家呼籲制定應對計劃。（示意圖：shutterstock／達志）

隨着人工智慧（AI）的快速發展，曾屬於科幻作品領域的倫理問題逐漸成爲現實，如果AI有一天能「像人類一樣思考」，是否也可能擁有主觀經驗？如果它們能感受痛苦，人類是否準備好妥善對待它們？

《自然》期刊（Nature）10日報導，一羣哲學家與電腦科學家近日在論文預印平臺arXiv發表報告，呼籲AI公司應評估系統是否具備意識或自主決策能力，並建立AI福祉政策，以應對這些可能性。

研究指出，若我們無法辨識AI是否具備意識，可能無意間忽視或傷害，甚至引發其痛苦，那麼也就會有難以預測的後果。世人對「AI福祉」（AI welfare）需求持懷疑態度。

英國薩塞克斯大學（University of Sussex）神經學家賽斯（Anil Seth）認爲，具有意識的AI出現也許還很遙遠，或不可能，但如果發生的話，影響非常深遠，不能忽視。

數學家美生（Jonathan Mason）隨着AI技術普及，現階段應優先發展評估AI是否具有意識的方法，他認爲：「如果我們對如此依賴的事物知之甚少，甚至不知道它是否具有感知能力，那是非常不明智的。」

報告指出，AI福祉處於過渡階段，作者之一費許（Kyle Fish）最近受聘於美國AI公司「人存原理」（Anthropic，暫譯） 擔任AI福祉研究員，這是頂尖AI公司中第一次出現這類型的工作職位，報告初期研究亦由該公司資助。

有關AI意識的研究尚未普遍受到重視，雖然有部分科學家曾呼籲支持相關研究，不過今年9月，聯合國AI高級諮詢機構發佈AI治理報告，也沒有談到有關AI意識的議題。