总部位于苏黎世的公司筹集 2000 万美元以加强人工智能安全。
开发人工智能应用的财富 500 强公司的领导者面临着一个潜在的噩梦：黑客诱骗人工智能泄露敏感数据。总部位于苏黎世的初创公司 Lakera 已筹集 2000 万美元来解决这一问题。此轮融资由 Atomico 领投，Citi Ventures 和 Dropbox Ventures 参投，使 Lakera 的总融资额达到 3000 万美元。Dropbox 和 Citi 等公司使用的 Lakera 平台允许企业为生成式人工智能设置护栏，防止即时注入攻击。
Lakera 首席执行官 David Haber 强调了安全性和保障性的重要性，因为公司将生成式 AI集成到关键功能中。现有的安全团队在保护这些应用程序的安全方面遇到了新的挑战。Lakera 的平台建立在内部 AI 模型上，可确保生成式 AI 应用程序不会采取意外行动。客户可以指定AI响应的上下文和策略，防止敏感信息泄露。
Lakera 的一个独特优势是 Gandalf，这是一款在线 AI 安全游戏，受到数百万用户的喜爱，其中包括微软。该游戏会生成一个实时 AI 威胁数据库，让 Lakera 的软件每天更新数千种新攻击。这有助于为其客户维持强大的安全措施。
Lakera 与 HackerOne 和 BugCrowd 等初创公司在生成式 AI 安全领域展开竞争。花旗风投的 Matt Carbonara 称赞 Lakera 专注于快速注入攻击，并称赞其团队有能力针对新的攻击面制定必要的对策。
评论