该公司承诺将把 20% 的计算资源分配给安全研究，并且不会对员工强制执行限制性的不贬低协议，除非签订特定的相互合同。
OpenAI 向美国立法者保证，它致力于安全部署其 AI 工具。在包括夏威夷参议员 Brian Schatz 在内的五位参议员对该公司的安全做法表示担忧后，ChatGPT 的所有者决定向美国官员发表讲话。作为回应，OpenAI 的首席战略官 Jason Kwon 强调了该公司的使命，即确保 AI 造福全人类，并强调了他们在流程的每个阶段实施的严格安全协议。
多年来，OpenAI 承诺将其 20% 的计算资源分配给与安全相关的研究。该公司还表示，将不再对现任和前任员工执行非贬低协议，以解决人们对之前限制性政策的担忧。在社交媒体上，OpenAI 的首席执行官 Sam Altman 分享说，该公司正在与美国人工智能安全研究所合作，以提供对其下一个基础模型的早期访问权，以推进人工智能评估科学。
Kwon 提到了最近成立的安全委员会，该委员会目前正在审查 OpenAI 的流程和政策。此次审查是解决 OpenAI 在安全承诺和员工表达担忧的能力方面所面临的争议的更广泛努力的一部分。
OpenAI 安全团队的主要成员（包括联合创始人 Ilya Sutskever 和 Jan Leike）最近相继辞职，这凸显了内部担忧。Leike 尤其公开批评该公司将产品开发置于安全之上，凸显了该组织内部关于如何平衡创新与安全的方法的持续争论。
评论