随着 OpenAI 的技术日益强大，人们对安全问题的担忧也日益加剧，这些变化凸显了该公司对人工智能安全和负责任创新的持续承诺。
据首席执行官 Sam Altman 透露， OpenAI 的 AI 安全负责人 Aleksander Madry 目前正在开展一项重要的新研究项目。OpenAI 高管 Joaquin Quinonero Candela 和 Lilian Weng 将接管准备团队，该团队负责评估公司模型对通用 AI 的准备情况。此举是统一 OpenAI 安全工作的更广泛战略的一部分。
OpenAI 的准备团队确保其 AI 模型的安全性和准备就绪性。在 Madry 转任新的研究职位后，他将在研究组织内担任更重要的职务。OpenAI 还在解决其高级聊天机器人的安全问题，这些聊天机器人可以进行类似人类的对话，并根据文本提示生成多媒体内容。
作为此次战略变革的一部分，Joaquin Quinonero Candela 和 Lilian Weng 将领导准备团队。研究员 Tejal Patwardhan 将管理团队的大部分工作，确保继续关注人工智能安全。此次重组是在最近成立由 Sam Altman 等董事会成员领导的安全与保障委员会之后进行的。
随着OpenAI 的技术越来越强大、应用越来越广泛，安全问题也随之而来。安全与保障委员会于今年早些时候成立，旨在为训练下一代人工智能模型做准备。这些发展反映了 OpenAI 对人工智能安全和负责任创新的持续承诺。
评论