又亂用人工智慧!16學生被AI偽造裸照 5同學涉案下場超慘

美國加州比佛利山聯合學區近日爆出有5名國中生以人工智慧「深度僞造(deepfake)」方式,製造出16名同學裸照,學區6日投票決定將涉案5人全數退學。路透

美國加州比佛利山聯合學區近日爆出有5名國中生以人工智慧「深度僞造(Deepfake)」方式,製造出16名同學裸照,學區6日投票決定將涉案5人全數退學。

NBC報導,比佛利維斯塔中學(Beverly Vista Middle School)校長佈雷吉(Michael Bregy)透過電郵指出,5名加害者和16名受害者都是8年級學生,此事引發有關使用人工智慧的道德層面有關的重要討論,並瞭解到小孩雖然仍在學習和成長階段,但承擔責任也非常重要。

學區決議將5名加害學生退學後,涉案學生和家長沒有提出異議,其身分也未公開。

在比佛利中學事件發生前一年,全球各地就已經有一系列未成年學生遭「深僞」的假裸照案。隨着人工智慧技術的持續發展,相關案件數量呈現爆發式增長,專門設計用來讓受害者「脫衣」和「交換」臉孔的色情程式不斷出現,製造虛假影像比以往任何時候都更快、更方便,並且很容易在社交媒體上流傳。