·AI生成的歌手泰勒·斯威夫特的虛假露骨照片在社交媒體平臺上瘋傳，驚動美國白宮。由於來不及刪圖，社交平臺X一度封鎖了對斯威夫特的相關搜尋。
國外社交平臺湧現大量以泰勒·斯威夫特為主角的“不雅照片”。圖源：網路截圖
美國知名女歌手泰勒·斯威夫特（Taylor Swift）再次成為AI深度造假（deepfake）技術的受害者。
近日，由AI生成的斯威夫特的虛假露骨照片在社交媒體平臺上瘋傳，短時間內瀏覽量飆升至上千萬，驚動美國白宮。白宮新聞發言人卡里娜·讓-皮埃爾（Karine Jean-Pierre）警告AI生成照片的傳播“令人擔憂”，並敦促社交媒體公司防止此類錯誤資訊的傳播。由於來不及刪除這些有害圖片，社交平臺X（前身Twitter）一度封鎖了對斯威夫特的相關搜尋。
如果普通人的AI虛假露骨照片被傳播時，他們該如何維權？社交平臺具有怎樣的監管責任？對此，上海大邦律師事務所高階合夥人遊雲庭建議，按照中國法律，如果有人散佈此類照片，受害人可以按照名譽侵權和肖像侵權罪名起訴。如果照片較為露骨，受害人還可以指控釋出者犯有傳播淫穢物品罪，由公安機關進行偵查，對其進行刑事打擊。
AI深度造假技術多次瞄準斯威夫特
1月25日，一名X使用者分享的斯威夫特的虛假露骨圖片被瀏覽了4700萬次，其賬戶隨後被暫停。儘管X努力刪除相關不雅照片，但這些內容仍在多個媒體平臺上分享，並遭到瘋狂傳播。
隨後，斯威夫特的粉絲們很快關注到此事，釋出大量“保護泰勒·斯威夫特”的帖子，嘗試淹沒露骨圖片。
據英國《每日郵報》1月25日報道，一位接近斯威夫特的訊息人士表示，斯威夫特對網上流傳的虛假影象感到“憤怒”，並正在考慮對傳播這些影象的深度造假色情網站採取法律措施。
對此，X在1月26日發表宣告稱，嚴格禁止在該平臺上釋出未經同意的露骨內容，對此類內容採取零容忍政策，團隊正在積極刪除所有已識別的影象，並對釋出這些影象的賬戶採取適當的行動。
此次事件引起了美國白宮的注意。1月26日，白宮新聞發言人讓-皮埃爾表示：“網路上的執法不嚴對女性影響更大，她們是受到網路騷擾和欺凌的主要目標。”她還補充說，應該立法解決社交媒體上濫用人工智慧技術的問題，平臺也應該採取措施，在其網站上禁止此類內容。
作為斯威夫特虛假照片主要傳播的平臺之一，X在連續幾天封鎖了對她的相關搜尋後，於1月29日晚結束封鎖。X運營主管喬·貝納羅奇（Joe Benarroch）對媒體表示：“搜尋已重新啟用，我們將繼續對任何傳播此內容的企圖保持警惕，一旦發現，我們將立刻刪除。”
這並不是斯威夫特第一次成為AI深度造假的受害者，不久前，她的聲音經過深度造假技術被合成在虛假廣告中。在該廣告中，斯威夫特的克隆聲音對她的粉絲說，她“很高興”能免費分發炊具套裝。當受害者被引導至虛假網站後，會被要求支付9.96美元的運費，但號稱免費送的廚具不會真的送出去。
深度造假是英文“Deep learning”（深度學習）和“Fake”（偽造）的混成詞，指利用深度學習技術生成人造影象、音訊或影片的技術。無論是克隆聲音還是合成圖片，深度造假都展現出強大的製造虛假內容的能力。
在斯威夫特AI露骨照片事件後，1月29日，微軟公司宣佈，對旗下AI圖片生成產品Designer引入更多“護欄”，以避免在未經同意的情況下生成名人的露骨圖片。
1月30日，著名經紀公司WME宣佈與科技公司Vermillio建立合作伙伴關係，希望能夠保護其客戶的肖像免遭人工智慧技術濫用。Vermillio建立了一個名為Trace ID的平臺，可使用人工智慧技術跟蹤影象，來保護WME客戶的肖像和智慧財產權免遭盜竊。該合作還將尋求利用技術手段讓客戶能夠透過自己的肖像和形象獲利。
普通女性如果成為深度造假受害者，該如何維權？
不僅公眾人物會成為AI造假技術的受害者，普通女性也有類似經歷。
據美國有線電視新聞網（CNN）2023年11月4日報道，一名14歲的新澤西州高中生表示，她和其他30多名女同學的照片被篡改並在網上分享，她呼籲聯邦機構立法解決人工智慧生成的露骨圖片問題。
自2023年以來，中國也已發生多起AI深度造假詐騙案件和多起利用AI造黃謠事件，令人防不勝防。普通人如果遇到此類事件該如何維權？
上海大邦律師事務所高階合夥人遊雲庭建議，按照中國法律，如果有人散佈此類照片，首先受害人可以按照名譽侵權和肖像侵權為由到法院起訴，其次如果照片較為露骨，受害人還可以舉報釋出者犯有傳播淫穢物品罪或者侮辱罪，由公安機關進行偵查，對其進行刑事打擊。公安機關可以依職權立案偵查，如涉嫌犯罪可將嫌疑人移送檢察機關進行起訴。受害人也可以就侮辱罪進行刑事自訴。
遊雲庭稱，社交媒體平臺應該壓實責任，及時對平臺內的侵權內容進行清查，並遮蔽相關關鍵詞，以阻斷侵權內容的傳播。此外，如果用國內接受法律監管的公司的人工智慧技術進行生成，那提供技術的公司也應有審查的責任。
北京德和衡（上海）律師事務所的魏屹威律師認為，類似事件若發生在中國，受害人不妨按照以下步驟進行維權。首先，受害人要注意侵權證據的蒐集和保全，可以使用生成“時間戳”的證據蒐集工具對侵權事實加以固定，以防侵權人毀滅證據；其次，在完成取證之時，可以以傳送律師函等方式函告發布AI生成物的企業及網站運營企業，要求其對相關的AI生成物採取下架、斷開連結等措施，並要求其公開道歉、賠償損失、消除對受害人的不利影響；再次，如果其拒不整改，可以在已有證據的基礎上選擇行政投訴舉報、名譽權侵權訴訟，或至刑事控告等途徑進一步維權。
