美國國會向公司蒂姆-庫克等技術高管發出了措辭尖銳的信件,表達了對未經同意的Deepfake親密圖片盛行的擔憂。這些信件源於早前關於使用應用程式建立裸體Deepfake圖片的報道。 社交媒體上出現了大量推廣人臉交換的廣告,使用者使用這些廣告將人臉植入裸體或色情圖片中。
根據404 Media的新報告,美國國會正在根據這些報告採取行動,詢問科技公司計劃如何阻止在其平臺上生成未經同意的親密圖片。 已向蘋果、Alphabet、、Meta、ByteDance、Snap 和 X 發出信函。
在致蘋果公司的信中,蘋果公司特別指出,儘管有《應用程式審查指南》,但該公司卻忽略了此類雙重用途應用程式。 信中詢問蘋果公司計劃如何遏制Deepfake色情內容的傳播,並提到了《TAKE IT DOWN 法案》。
以下是向蒂姆-庫克(Tim Cook)提出的問題:
貴公司制定了哪些計劃來積極應對Deepfake色情內容在平臺上的泛濫,這些措施的部署時間表是什麼?
有哪些個人或利益相關者(如果有)參與了這些計劃的制定?
提出報告後的流程是什麼?有哪些監督措施可確保這些報告得到及時處理?
確定是否需要從商店中刪除申請的流程是什麼?
如果使用者報告他們的圖片在未經同意的情況下被包含在Deepfake中,他們可以獲得哪些補救措施?
蘋果是App Store的管理者,因此在任何時候都會受到指責。 這些Deepfake工具或兒童應用成為賭場的例子被用來作為蘋果不應成為其應用平臺看門人的論據。
之前的報告中指出的被蘋果移除的應用程式顯示出明顯的潛在濫用跡象。 例如,使用者可以從 Pornhub 獲取影片進行換臉。
Apple Intelligence無法制作裸體或色情圖片,而且蘋果已經阻止用蘋果登入在Deepfake網站上工作。 然而,這僅僅是蘋果在打擊Deepfake方面可以而且應該做的最起碼的工作。
正如美國國會的信中所建議的,蘋果需要採取措施確保雙重用途的應用程式無法透過稽核。 對於那些承諾進行人工智慧影象和影片處理的應用程式,尤其是那些提供換臉功能的應用程式,至少應採取額外的預防措施。