英國宣佈利用AI製作“深僞”色情圖將被定罪

21世紀經濟報道記者 鍾雨欣 北京報道

利用AI“涉黃”問題已引發多個國家關注。據英國政府網站消息，利用生成式人工智能（AI）製作“深度僞造”色情圖像的人將被定罪。根據最新定罪標準，任何未經同意創作這些可怕色情圖像的人，無論是否分享，都將被視爲犯罪並處以無上限的罰款。假如這些圖像被廣泛傳播，始作俑者可能將入刑坐牢。

英國受害者和保護事務負責人勞拉·法里斯表示：“這是某些人企圖貶低他人的行徑，尤其是針對女性，假如相關物料廣泛傳播，很可能造成災難性後果，本屆政府絕不會容忍這種行爲”。英國政府網站稱，近年來，“深度僞造”變得越來越普遍，全世界每個月的這類圖像瀏覽量達數百萬次。

今年1月，美國流行樂歌星泰勒·斯威夫特的“AI僞造照片”在社交媒體上瘋傳，“震驚”美國白宮。在1月26日的白宮記者會上，發言人讓·皮埃爾迴應此事，表示“網絡上的執法不嚴對女性影響更大，她們是受到網絡騷擾和欺凌的主要目標。”

皮埃爾稱，“雖然社交媒體公司在內容管理方面能做出獨立決定，但我們相信他們在執行自己規則，防止錯誤信息和未經同意的真實人物私密圖像傳播方面能發揮重要作用。”她還補充說，應該立法解決社交媒體上濫用人工智能技術的問題。

社交平臺“X”在1月26日發表聲明稱，嚴格禁止在該平臺上發佈未經同意的露骨內容，對此類內容採取零容忍政策，團隊正在積極刪除所有已識別的圖像，並對發佈這些圖像的賬戶採取適當的行動，此外，該平臺連續幾天封鎖了對泰勒·斯威夫特的相關搜索。

在此事件之後，微軟公司1月29日宣佈，對旗下AI圖片生成產品Designer引入更多“護欄”，以避免在未經同意的情況下生成名人的露骨圖片。

除了名人之外，普通女性也成爲了AI深度僞造色情圖片的受害者。據媒體報道，2023年9月，西班牙發生一起利用AI的深度僞造技術製作少女裸照的事件，至少有28名11歲至17歲的少女成爲受害者，疑犯不僅將裸照在校園內及網絡上傳播，甚至還利用裸照進行勒索。

2023年11月，一名14歲的新澤西州高中生表示,她和其他30多名女同學的照片被篡改並在網上分享，她呼籲聯邦機構立法解決人工智能生成的露骨圖片問題。

2024年2月，在美國加州貝弗利山的一所中學，有學生利用AI技術僞造同學的裸照並在網絡上散佈，引發當地教育官員的強烈譴責。

近年來，中國也發生了多起類似事件。2023年3月，“女子地鐵照被AI一鍵脫衣傳播”登上熱搜，而所謂的“裸照”其實是該女子此前分享在社交平臺的一張照片，原圖中該女子衣着正常，卻被AI技術“一鍵脫衣”，“除衣”後的照片被廣泛傳播。

2023年11月，杭州市蕭山區人民法院判決被告人虞某犯製作、傳播淫穢物品牟利罪，判處有期徒刑七年三個月，並處罰金6萬元。在該案中，虞某利用“AI換臉”軟件生成大量淫穢視頻進行傳播，被換臉的既包括不少女明星等公衆人物，也包括普通人。

檢察機關收集的證據顯示，虞某創建的衆多社交羣組中，最少的成員95人，最多的成員達2053人，通過銷售換臉淫穢視頻以及定製換臉淫穢視頻等違法行爲，虞某先後收取口令紅包200餘次，總金額共計6萬餘元。

中國政法大學數據法治研究院教授張凌寒此前在接受21世紀經濟報道記者採訪時表示，深度合成技術能否被合法應用，是關係互聯網信息內容安全的大事。俗語說“耳聽爲虛，眼見爲實”“有圖有真相”，可見照片、視頻在公衆潛意識中的真實性遠勝文字。而深度合成技術則恰恰顛覆了這一公衆認知，可以僞造音頻、圖片、視頻，捏造人物的行爲與語言。

在法律法規層面，我國已有相應規制。民法典規定，任何組織或者個人不得以醜化、污損，或者利用信息技術手段僞造等方式侵害他人的肖像權。 此外，《互聯網信息服務深度合成管理規定》要求，任何組織和個人不得利用深度合成服務製作、複製、發佈、傳播法律、行政法規禁止的信息。《生成式人工智能服務管理暫行辦法》也明確，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德。