梅雷迪斯·惠特克 (Meredith Whittaker) 已经受够了科技行业的“兄弟会”队伍。我在巴黎 VivaTech 大会上与 Signal 总裁坐下来，讨论社会面临的一系列严重、成熟的问题，从虚假信息到谁控制人工智能，再到日益严重的监控国家。在谈话过程中，我们深入探讨了 Signal 最近与埃隆·马斯克、Telegram 的帕维尔·杜罗夫的口水战，以及——鉴于它与斯嘉丽·约翰逊的争议性冲突——惠特克对 OpenAI 领导层的坦率看法，她将其比作“宿舍里的恶作剧”。
除此之外，惠特克还担心五大社交媒体平台的权力集中，尤其是在全球面临大量大选（尤其是美国）的一年，以及欧洲对美国科技巨头的依赖。她认为，放松欧盟监管实际上不会帮助欧洲与美国科技巨头竞争，也不会对社会有利。她批评媒体对人工智能驱动的深度伪造的痴迷，同时经常忽视社交媒体平台如何将夸张的参与度置于事实之上。
我们还讨论了监控广告、英国网络安全法案的影响、EU-CSAM 提案（“绝对危险”），以及 Telegram 的 Pavel Durov 是否应该花更多时间保障他的平台安全，而不是被摄影师关注他的 Instagram 账户（“他满嘴胡言乱语”）。
最后她透露了为什么她要在接下来的六个月里呆在欧洲。
您最近一直在谈论人工智能领域的权力集中问题，这在欧洲背景下非常重要。您愿意进一步阐述一下吗？
简而言之，这在欧洲背景下很重要，因为这种权力并不集中在欧洲。是的，这种权力集中在少数几家位于美国的公司手中，还有一些在中国。但当我们谈论这个背景时，我们谈论的是美国。欧洲、欧洲初创企业、欧洲政府、欧洲机构对人工智能的依赖最终是对这些少数几家公司创建、控制并回报其利润和增长的基础设施和系统的依赖。
现在，我们谈论的背景是 2024 年 5 月。现在，我不知道距离大选还有几个月，我现在不想去想这个。但我们正在考虑特朗普政权和更专制的美国政府的可能性，而共和党的一部分长期以来一直关注控制科技，尤其是社交媒体。因此，在分析什么是人工智能时，应该综合考虑这些因素。人工智能为谁服务？为什么欧洲应该担心人工智能行业的权力集中？
欧洲正在就加速主义和加速技术展开辩论。一些欧洲企业家对欧洲监管感到失望。您认为他们对可能的欧洲监管（或许是欧盟减缓技术进步步伐）的担忧合理吗？
对不起，我来自学院。所以我对定义很执着。我想稍微解释一下。这里的前提是，如果没有这样的束缚，欧洲就可以自由地建立与美国科技巨头相当的竞争对手吗？如果这是假设，那就错了。他们知道这不是真的。任何了解这些公司的历史、商业模式和根深蒂固的人也都知道这不是真的。
监管“拖慢 B 轮融资”可能会让人感到沮丧。但我认为，我们需要对“进步”进行定义，这种定义依赖于摆脱所有限制，这些限制将控制技术的使用和滥用，而这些技术目前正被用于做出极其敏感的决定；目前正与大规模监控基础设施相联系，这些基础设施正在加速新形式的社会控制；这些技术正被用来贬低和削弱劳动力。这是我们想要的吗？这是进步吗？因为如果我们不定义我们的术语，我认为我们就会陷入这些童话故事中。
当然，有些人在套现后会成为稳固的中产阶级，这对他们来说是好事。但我们不要将这和朝着宜居未来迈进混为一谈。朝着有利于社会的治理结构迈进，朝着真正服务于人类需求、真正对公民负责的技术迈进。
您举了有关泽连斯基和他妻子的人工智能生成内容的虚假信息的例子。例如深度伪造的视频和人工智能生成的网站。
单纯关注深度伪造实际上是只见树木不见森林，而“森林”指的是我们现在依赖五大社交媒体平台作为仲裁者。[TikTok、Facebook、Instagram、Twitter/X 和 YouTube]
这些庞大的同质社交媒体平台有动机调整其算法以提高参与度，因为他们想要更多的点击量、更多的广告浏览量，这些平台有动机提升虚假内容、夸张内容、夸张内容、完全虚假的内容，对吧？在我看来，这就是我们看到人工智能以更强大的方式用于虚假信息的地方。这就是你会发现深度伪造的地方。现在没有人会去网站了。你去推特、YouTube，你搜索一下，看看上面有什么。
你看到一个标题，点击它，点击那个网站上某人的帖子。我认为，如果不讨论大量同质平台的作用，我们就无法讨论虚假信息，这些平台蚕食了我们的媒体生态系统和信息生态系统，为少数几家公司的利润和增长服务。
在英国，我们有广告标准局。在德国，你不能在 eBay 上做纳粹纪念品的广告。是否有办法监管广告行业，从而为依赖广告作为商业模式的平台制定更好的规则并取得更好的结果？
我认为禁止监控广告将是一个很好的开端。我们将真正从根本上消除科技行业存在的弊端，即以影响力的名义进行大规模监控，以影响力来销售某种东西，以影响力来说服某人投票，以影响力来误导某人。归根结底，这就是游戏规则。
正如您所说，大规模监控的训练数据与 OpenAI 使用的“Sky”AI 声音非常相似的故事形成了鲜明对比。斯嘉丽·约翰逊后来透露，萨姆·奥特曼曾联系过她，希望使用她的声音。您认为谁是那次事件的赢家吗？
我在推特上发了这封邮件，但这就像是……“边缘领主”的胡说八道。这太无礼了。这太没必要了。这真的揭开了你们都是严肃的人，站在科学的顶峰，打造下一个神格的神话面纱，而很明显，现在的文化是一群“唯唯诺诺的人”在宿舍里煽动的恶作剧，他们认为你说的每一个笑话都很有趣，因为他们是拿钱来干这个的，而周围没有人站在领导的肩膀上说“你他妈的在干什么！？”
去年在 TechCrunch Disrupt 上，有人与您讨论英国的《网络安全法案》（现为《法案》），该法案暗示可能会要求科技公司在其端到端加密中建立后门。现在该法案已经通过，您对此持什么立场？
我们永远不会这么做。我们永远不会这么做。我们说的是，如果他们采取行动执行法案的这一部分，Ofcom 可能会利用这一点告诉 Signal“他们必须建立一个后门，他们必须实施客户端扫描”——这是一个后门——我们会离开 [英国]。因为我们不会这么做。我们永远不会出卖依赖 Signal 的人，尤其是考虑到他们中有这么多人依赖它，在数字安全事关生死的情况下。
显而易见的是，Ofcom 接到了一大堆荒谬的法案，其中一些很有趣，一些则不然，就像圣诞树一样堆积起来，每个人都在上面钉上了自己最喜欢的装饰品。该法案的通过是由于政治惰性，而不是通过任何真正的支持。在该法案出台前，我与之交谈过的每一位议员都说：“是的，我们知道那是胡说八道，但没人会对此采取任何行动。”现在 Ofcom 必须处理该法案的执行问题。因此……每隔几个月就会有 1,700 页法案被删除，你需要花钱请人阅读。
那么，您还没有受到来自 Ofcom 的任何压力吗？
不，我与 Ofcom 领导层打交道的经验是，他们相当通情达理。他们理解这些问题。但是，他们再次收到了这项法案，现在正试图解决该怎么做。
最近有一项进展，他们正在就网络安全人工智能进行咨询。你对此有何评论？
我非常担心年龄限制。有人认为我们需要一个数据库，[例如]由 Yoti 运营，Yoti 是一家美国公司，该公司正在大力游说这些基础设施，它可以进行生物特征识别或一些机器学习、不准确的魔法，或者拥有一个 ID 数据库，或者其他什么，这意味着你必须用你的真实身份和年龄以及他们想要的任何其他信息登录，才能访问网站。
你说的是一个令人难以置信的大规模监控制度。在美国，图书馆员长期以来一直坚守不披露人们借阅的内容，因为这些信息非常敏感。你可以看看罗伯特·博克的案子，看看他租借和购买的视频，就知道这些信息有多敏感。你在这里看到的这些规定只是引入了一种完全无视人们对这些数据有多敏感的理解的东西，并创造了一种[情况]，即你必须先向当局报备，然后才能使用网站。
欧盟委员会提出了一项新指令，旨在重塑有关儿童性虐待材料（EU-CSAM）的刑法规则。您对这项提议有何看法？
老实说，看起来似乎没有政治意愿。但值得注意的是，似乎有这样一群狂热分子，尽管调查报道严厉谴责，但他们表明扫描和生物识别行业的游说者在起草这项立法时发挥了多么强大的作用。尽管整个专家社区——任何研究安全或密码学并了解这些系统及其局限性的知名人士——都站出来表示这绝对不可行。你所说的是我们政府、商业和通信所依赖的核心基础设施中的后门。
这绝对是危险的，哦，等等，没有数据显示这实际上会帮助孩子。社会服务和教育资金严重短缺。帮助孩子确实存在问题。但这些问题并没有得到关注。相反，人们执着于加密的后门，执着于破坏我们唯一能够确保机密性、真实性和隐私的技术。所以争论开始了。很明显，他们错了。很明显，这个过程至少可以说是腐败的。然而，似乎有这么一派人，就是无法放过这一点。
您显然对中心化 AI 平台的力量感到担忧。例如，您如何看待 Emad Mostaque 所谈论的所谓“去中心化 AI”？
我听到了一句口号。给我一个论点。给我一个架构。告诉我这到底意味着什么。去中心化具体是什么？你的特殊版本的去中心化有哪些优势？
显然，最近与伊隆·马斯克在 Telegram 与 Signal 的争论上发生了冲突。从那次经历来看，你看到任何激进分子退出 Signal 了吗？你对帕维尔·杜罗夫所说的话有何看法？
看起来 Pavel 可能忙于被专业摄影师跟踪而无暇弄清事实。我不知道他为什么要夸大这一点。我知道，当谈到他的观点或他对 Signal 的主张时，他满嘴胡言乱语。我们有所有证据。所以陪审团已经介入。判决很清楚。
不幸的是，与其他科技高管的言论不同——我很乐意参与其中，也并不特别在意——这一次的言论实际上伤害了真实的人，而且非常鲁莽。除了我们联盟中的一些同事外，我们还必须与人权捍卫者和活动家团体保持联系，他们确实对这些指控感到害怕，因为我们身处一个行业，一个生态系统，世界上可能有 5,000 人拥有真正坐下来验证我们所做的事情的技能，我们尽可能让拥有这些狭隘专业知识的人轻松验证 Signal 所做的事情。
我们的协议是开源的。我们的代码是开源的。它有详尽的文档。我们的实现是开源的。我们的协议经过了正式验证。我们正在尽我们所能。但是有很多人拥有不同的技能和不同的专业知识，他们必须相信专家的话。我们很幸运，因为我们已经公开工作了十年。我们创造了黄金标准的加密技术，我们赢得了安全、黑客、信息安全、密码学社区的信任，这些人就像一种免疫系统。但这并不意味着我们不必对依赖 Signal 的人进行真正的损害控制和护理工作。很多时候，我们看到这些虚假信息活动针对弱势群体，以迫使他们选择不太安全的选择，然后让他们受到监视和社会控制，以及来自这种武器化信息不对称的其他形式的伤害。所以我很生气，我很生气，我认为这太鲁莽了。玩你的游戏，但不要把他们带到我的法庭上。
我做过很多关于乌克兰科技和一些不对称战争的报道。与此同时，很明显乌克兰人仍在大量使用 Telegram，俄罗斯人也是如此。您对 Telegram 在战争中的作用有何看法？
Telegram 是一个带有 DM 的社交媒体平台。Signal 是一种私人通信服务。我们进行人际交流，并且以最高级别的隐私进行交流。因此，乌克兰和其他地方的许多人都使用 Telegram 频道进行社交媒体广播、使用群组和 Telegram 的其他社交媒体功能。他们还使用 Signal 进行真正的严肃交流。因此，Telegram 是一个社交媒体平台，它没有加密，它是目前最不安全的消息和社交媒体服务。
您说过您将在欧盟呆很长时间，为什么呢？
接下来的六个月我会在巴黎。我们专注于我们的欧洲市场，我们的欧洲联系。作为一款隐私保护应用，这是一个好时机，它永远不会放弃我们的原则，考虑到美国的政治局势，我们会非常灵活，并了解我们的选择。我还在写一本书，讲述我过去 20 年所做的所有工作。
本站全部资讯来源于实验室原创、合作机构投稿及网友汇集投稿，仅代表个人观点，不作为任何依据，转载联系作者并注明出处：https://www.lvsky.net/159.html
评论