司法部加大对儿童剥削的打击力度。
美国联邦检察官正在加大力度打击使用人工智能工具制作儿童性虐待图片的行为，因为他们担心这项技术可能会导致非法内容的增加。今年，司法部已经对两起被指控使用生成式人工智能制作未成年人露骨图片的个人提起了诉讼。司法部计算机犯罪和知识产权部门负责人詹姆斯·西尔弗预计还会有更多案件，并警告不要将人工智能生成的虐待材料正常化。
儿童安全倡导者和检察官担心，人工智能系统可以修改儿童的普通照片，制作虐待内容，使识别和保护实际受害者变得更加困难。美国国家失踪与受虐儿童中心每月报告约 450 起涉及人工智能生成的虐待案件。虽然这个数字与收到的数百万份在线儿童剥削报告相比很小，但它代表了技术滥用的令人担忧的趋势。
对于涉及人工智能生成的虐待案件，法律框架仍在不断发展，特别是在没有可识别儿童的情况下。当传统的儿童色情法不适用时，检察官会诉诸淫秽指控。这在 Steven Anderegg 的案件中很明显，他被指控使用 Stable Diffusion 制作露骨图片。同样，美国陆军士兵 Seth Herrera 也面临儿童色情指控，他涉嫌使用人工智能聊天机器人将无辜的照片改为虐待内容。两名被告均不不认罪。
Thorn 和 All Tech Is Human 等非营利组织正在与谷歌、亚马逊、Meta、OpenAI 和 Stability AI 等大型科技公司合作，防止人工智能模型生成恶意内容并监控其平台。Thorn 副总裁 Rebecca Portnoff 强调，这个问题不仅是未来的风险，也是当前的问题，并敦促在这一关键时期采取行动，防止问题升级。
评论