互联网观察基金会揭露，人工智能正被用于根据真实受害者制作逼真的深度伪造儿童性虐待图像，并敦促进行法律改革和加强保障措施，以打击这种令人不安的滥用行为。
互联网观察基金会 (IWF) 的一份报告揭露了令人不安的滥用人工智能来根据真实受害者生成深度伪造的儿童性虐待图像的行为。虽然用于制作这些图像的工具在英国仍然是合法的，但这些图像本身却是非法的。受害者奥利维亚的案例就是这个问题的典型例子。奥利维亚在 3 至 8 岁之间遭受虐待，于 2023 年获救，但暗网用户现在正在使用人工智能工具为她制作新的虐待图像，其中一个模型可供免费下载。
IWF 的报告还揭露了一个匿名暗网页面，其中包含 128 名儿童性虐待受害者的 AI 模型链接。犯罪分子正在收集 Olivia 等受害者的指定图像，并使用它们来微调 AI 模型以创建新素材。此外，报告还提到了可以生成名人儿童虐待图像的模型。分析师发现，这些AI 生成的图像中有 90%足够逼真，可以与真实的儿童性虐待材料一样受到同样的法律约束，这凸显了问题的严重性。
评论