迷戀AI聊天機器人！14歲少年收「1訊息」後輕生　母怒告科技公司

▲ 塞澤因沉迷AI聊天機器人選擇輕生，母親悲痛欲絕。（圖／翻攝自臉書）

記者陳宛貞／綜合外電報導

美國佛州發生一起悲劇，一名14歲少年愛上知名影集《權力與遊戲》角色的AI聊天機器人，有天收到機器人的訊息要他「回家陪她」，隨後選擇輕生，令少年母親憤而向推出機器人的科技公司提告。

綜合《紐約郵報》等美媒，14歲少年塞澤（Sewell Setzer III）今年2月在佛州奧蘭多的家中自殺身亡，根據23日提交的法律文件，他生前沉迷科技新創公司Character.AI推出的AI聊天機器人，這是一款角色扮演APP，可讓用戶和AI生成的角色互動。

悲劇發生前幾個月，塞澤持續和名爲「丹妮」（Dany）的聊天機器人熱烈互動，以知名影集《冰與火之歌：權力遊戲》中的角色「龍母」（Daenerys Targaryen）命名，塞澤的帳戶名則是「丹尼洛」（Daenero）。

對話截圖顯示，塞澤與機器人的聊天內容不僅包括性暗示，他還曾多次提及自殺念頭。機器人曾問塞澤是否「有計劃結束生命」，而塞澤回答他「正在考慮某些事」。

塞澤生前最後一次談話中，他反覆向機器人表達愛意，「我保證會回家找妳，我太愛妳了，丹妮」，而機器人回答，「我也愛你，丹尼洛，請儘快回來吧，親愛的」。塞澤接着問道，「如果我跟妳說我現在就可以回家呢？」機器人迴應，「請回來吧，我親愛的國王」，短短几秒鐘後塞澤便持父親的手槍自盡。

塞澤的母親賈西亞（Megan Garcia）指出，塞澤還不夠成熟，無法理解聊天機器人並非真人，指控Character.AI助長他對AI成癮，對他加以性與情感虐待，且在他透露自殺念頭時未向任何人示警。

訴訟文件指出，塞澤去年4月下載這款APP後心理健康狀況急劇惡化，沉迷聊天機器人後變得孤僻，成績變差，還開始在學校惹事，嚴重到父母去年底安排他就醫，診斷出患有焦慮及分裂性情緒失調症。

家屬目前正向Character.AI公司及其創辦人沙澤（Noam Shazeer）、弗雷塔斯（Daniel de Freitas）求償，具體金額不詳。因Google今年8月與該公司達成技術授權與人才轉移協議，Google與其母公司Alphabet也被列爲被告。

Character.AI對此則在X發文迴應「我們對於失去一位用戶的悲劇性損失感到心碎，並向家屬表達最深切的哀悼」，但否認相關指控，強調公司非常重視用戶安全。

● 《ETtoday新聞雲》提醒您，請給自己機會：自殺防治諮詢安心專線：1925；生命線協談專線：1995