AI給錯誤資訊 近8成變使用者記憶

臺大研究顯示，AI機器人提供的錯誤資訊，約7、8成會變成使用者的記憶。（美聯社）

生成式AI（人工智慧）被廣泛使用，臺大心理系教授黃從仁的研究團隊20日在《美國心理學家》期刊發表最新研究成果，對話機器人的訊息中有77％錯誤詞彙成爲參與者的記憶，且即使加註一次性警語，也無法減少錯誤的記憶。也就是，機器人提供的錯誤資訊，約7、8成會變成使用者的記憶。

民衆對使用AI越來越熟悉，但也難以避免AI系統與使用者互動時，會產生錯誤資訊回答使用者。而生成式AI帶有錯誤資訊，是否會在人機互動時，潛移默化的影響使用者，是必須重視的事。

黃從仁的研究團隊使用人工可編輯程式的人形機器人RoBoHoN（夏普公司所研發）與臺大學生對話，檢查機器人提供情感和價值中立但內容錯誤的訊息中，是否有預告的警語，例如，警告參與者要對錯誤資訊持保留的態度，以及檢查這些訊息中有多少比例會在之後的認知測驗中，變成一個人記憶的錯誤資訊。

黃從仁表示，聊天機器人會回答錯誤資訊已不是新聞，但唯有會進到人們記憶中的錯誤資訊纔會影響人們的決策。此研究透過兩組實驗，並首次證實：一、機器人提供的錯誤資訊中，有7、8成會變成人們的記憶；二、即便機器人在提供錯誤資訊前已抱持自我懷疑並提出警告，但這些警告只能增加人們的戒心，並無法真正避免錯誤資訊成爲記憶。

臺灣科技媒體中心（SMC）邀請人工智慧專家解析這項研究，臺大資工系副教授陳縕儂說，生成式AI系統在與使用者互動時，不可避免的會產生錯誤的腦補資訊來回答使用者，這種錯誤資訊的內容，是否會在人機互動中潛移默化的影響使用者，是規範當代AI產品非常重要的考量。