谷歌周四发布了针对通过 Google Play 分发的 AI 应用开发者的新指南，希望减少不适当和被禁止的内容。该公司表示，提供 AI 功能的应用必须防止生成受限制的内容（包括色情、暴力等内容），并且需要为用户提供一种标记他们发现的攻击性内容的方法。此外，谷歌表示，开发者需要“严格测试”他们的 AI 工具和模型，以确保它们尊重用户的安全和隐私。
它还严厉打击那些在营销材料中宣传不当使用场景的应用，比如脱光衣服或制作未经同意的裸照。如果广告文案说某个应用能够做这种事情，那么无论该应用是否真的能够做到，它都可能被 Google Play 禁止。
近几个月来，社交媒体上越来越多地出现 AI 脱衣应用，而这些应用的营销手段也越来越猖獗。例如，404 Media 4 月份的一份报告发现，Instagram 上有一些应用的广告，声称它们使用 AI 来生成深度伪造的裸照。其中一款应用使用金·卡戴珊 (Kim Kardashian) 的照片和“免费为任何女孩脱衣”的口号来营销自己。苹果和谷歌从各自的应用商店下架了这些应用，但问题仍然普遍存在。
美国各地的学校都报告称，学生 传播 其他学生（有时是老师）的人工智能深度伪造裸照，以进行欺凌和骚扰，以及其他类型的不当人工智能内容。上个月，巴尔的摩一名学校校长因种族主义人工智能深度伪造而被捕。更糟糕的是，在某些情况下，这个问题甚至影响到了中学的学生。
谷歌表示，其政策将有助于阻止 Google Play 中出现那些包含 AI 生成内容的应用，因为这些内容可能对用户不合适或有害。该公司指出，其现有的 AI 生成内容政策是检查 Google Play 应用审批要求的地方。该公司表示，AI 应用不得允许生成任何受限内容，还必须为用户提供一种标记冒犯性和不当内容的方法，以及监控和优先处理这些反馈。谷歌表示，后者对于用户互动“塑造内容和体验”的应用尤其重要，例如热门模特排名更高或更突出的应用。
根据 Google 的应用推广要求，开发者也不能宣传他们的应用违反了 Google Play 的任何规则。如果应用宣传了不适当的用例，则可能会被从应用商店下架。
此外，开发人员有责任保护他们的应用程序免受可能操纵其人工智能功能以创建有害和攻击性内容的提示。谷歌表示，开发人员可以使用其封闭测试功能与用户分享其应用程序的早期版本以获得反馈。该公司强烈建议开发人员不仅在发布之前进行测试，而且还要记录这些测试，因为谷歌可能会要求将来对其进行审查。
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/455.html
评论