人们对 Zoom 的 AI 头像越来越担心，担心它们可能被用于深度伪造。
Zoom计划在 2025 年推出定制的 AI 虚拟形象，为用户提供能够复制头部和手臂动作的逼真数字克隆。用户将能够编写虚拟形象的脚本，音频与嘴唇动作同步，这可能会改变异步工作场所沟通。
该公司将这些虚拟形象视为一种节省时间的工具，特别是对于那些需要扩大视频内容创作规模的人来说。尽管这些虚拟形象具有令人期待的好处，但人们仍对 Zoom 如何防止滥用这项技术存有疑问，尤其是考虑到人们对深度伪造的担忧日益增加。许多人担心这些虚拟形象可能会被恶意用来冒充他人或传播虚假信息。
Zoom 已宣布了一些安全措施，例如高级身份验证和水印，但具体细节尚不清楚。其他提供类似工具的公司，如 Tavus 和微软，都采取了更严格的保护措施，这引发了人们对 Zoom 的努力可能不足以遏制潜在风险的担忧。
深度伪造的兴起继续引发监管争论。尽管美国一些州已经出台法律，打击人工智能辅助模仿的蔓延，但目前还没有全面的联邦法规来解决这个问题。在 Zoom 准备推出此功能时，该公司需要在创新与安全之间取得平衡。
评论