深度伪造色情内容日益危害女性的隐私，其中 98% 的内容都是露骨的。
带有红色 Deepfake 按键的电脑键盘。Deepfake 在网上存在危险。
随着深度伪造色情制品对网络女性的威胁越来越大，国际和国内立法者都难以为受害者提供有效的保护。这一问题因艾米·史密斯等案件而备受关注。艾米·史密斯是一名巴黎学生，她被一名匿名罪犯用伪造的裸照骚扰。尽管史密斯向多个部门举报了这一罪行，但由于跨境追踪匿名罪犯的复杂性，史密斯几乎没有得到任何支持。
最近的数据显示，深度伪造色情内容主要用于恶意目的，其中 98% 的视频内容露骨。联邦调查局发现“性勒索”案件有所增加，即利用修改后的图像进行勒索。公众对这些犯罪的认识通常会因备受关注的案件而提高，但许多受害者并不是名人，他们在寻求正义方面面临巨大挑战。
各方正在努力通过新立法来解决这些问题。在美国，拟议的法案旨在追究犯罪者的责任，并要求迅速从互联网上删除深度伪造内容。此外，拜登总统最近发布的行政命令旨在开发用于检测和追踪深度伪造图像的技术。在欧洲，《人工智能法案》引入了对人工智能系统的监管，但因其范围有限而受到批评。虽然这些措施代表着进步，但专家警告说，它们可能无法完全防止未来深度伪造技术的滥用。
评论