上周，OpenAI 被迫向演员斯嘉丽约翰逊 (Scarlett Johansson) 道歉，原因是其最新的聊天机器人使用了她的声音（或非常类似的声音），这让语音克隆技术成为人们关注的焦点。
尽管 OpenAI 否认他们使用的声音是约翰逊的声音，但首席执行官萨姆·奥特曼在社交媒体上用一个词“她”来标记新模型，这对他们的诉讼没有任何帮助。
约翰逊在电影《她》中为一个人工智能角色配音，奥特曼此前曾说这是他最喜欢的关于人工智能的电影。
从一开始，人工智能语音克隆就被证明存在问题。
去年，英国公司 Elevenlabs 发布了一款语音克隆软件，但却因种种负面原因而爆红。
网络恶作剧者立即开始推出深度伪造的名人照片——《哈利·波特》明星艾玛·沃特森被拍到在阅读希特勒的《我的奋斗》。
执法部门警告称，人工智能克隆人可能会被用来通过电话向亲人勒索钱财。
过去一年来，这项技术发展迅速，变得更加现实和细致入微。
丹麦企业家、英国人工智能公司 Synthesia 首席执行官维克多·里帕贝利 (Victor Riparbelli) 告诉法新社，这很大程度上归功于两年前发布的一款名为 Tortoise 的项目。
该程序的开发人员以非结构化的方式将数千小时的语音数据放入他们的模型中，发现它不仅学会了说什么，还学会了如何说。
“这是一个相当大的范式转变，”里帕贝利在上周于巴黎举行的 VivaTech 会议间隙表示。
Tortoise 是一个开源程序，Elevenlabs 是第一个使用该程序进入市场的程序。
OpenAI 使用类似的系统，但他们没有透露任何细节。
'不太好'
围绕语音克隆的大部分争议都集中在对人们滥用该软件的担忧上。
但针对 OpenAI 的指控却不同寻常，因为该公司本身被指责玩忽职守。
TALKR.ai 首席执行官 Katya Laine 在 VivaTech 大会上告诉法新社：“OpenAI 这样做非常不幸——真的不太好。”
“如果他们真的在她不知情的情况下克隆了她的声音，那么我认为这是非常非常糟糕的，”里帕贝利说。
这两位企业家是数百名利用人工智能语音程序的企业家之一，他们认为这将提高公司效率。
Laine 的公司提供虚拟语音助手——本质上是人工智能客户服务代理。
她说，她公司的系统现在可以在无需人工干预的情况下解决 25% 到 30% 的电话问题。
Synthesia 专注于视频虚拟形象的开发，Riparbelli 表示，这可以让任何办公室工作人员将文本或幻灯片转换成由逼真的人工智能表演的视频。
Riparbelli 和 Laine 都允许其客户使用自己的化身、现成的产品或由 OpenAI 和 Elevenlabs 等公司提供的产品。
里帕贝利表示，Synthesia 所聘用的演员的肖像和声音授权期限为两年，并且可选择在初始期限后续约。
如果未经演员同意就使用他们的声音，就会出现问题。
“奇怪的先例”
上周，OpenAI 在巴黎举行的开发者大会上展示了一套新工具，但这场闹剧却给大会蒙上了一层阴影。
在礼堂的一块大屏幕前，OpenAI 开发者体验主管 Romain Huet 轻松地和手机聊天。
几秒钟后，他的简短声音样本就被处理好了，可以用五种语言在生成的视频中进行评论。
这次演示显示了该领域的发展速度有多快，但头条新闻已经被写好了。
《华盛顿邮报》在一则新闻通讯中问道“OpenAI 到底有多蠢？”，其他评论员则认为神童奥特曼只不过是个骗子。
尽管如此，Riparbelli 还是接受了 OpenAI 的说法，即他们使用了另一位听起来像约翰逊的演员。
“如果不是她，而是某个听起来很像她的人……你会如何划分界限？”里帕贝利问道。
“如果他们不允许使用听起来很像她的人，那么这将开创一个非常奇怪的先例。”
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/261.html
评论