根据旨在评估能力和确保负责任地开发的协议，美国人工智能安全研究所将获得 OpenAI 和 Anthropic 的新人工智能模型的早期使用权。
人工智能初创公司 OpenAI 和 Anthropic已与美国人工智能安全研究所达成协议，合作研究、测试和评估其先进的人工智能模型。随着整个科技行业对人工智能安全和道德发展的监管审查不断加强，这些交易也随之达成。
协议允许美国人工智能安全研究所在两家公司的重要新人工智能模型发布前后提前使用它们。该合作伙伴关系将评估它们的能力和潜在风险，并提供安全改进方面的反馈。OpenAI 首席战略官 Jason Kwon 支持该计划，并指出该计划对于制定全球人工智能安全框架具有重要意义。
亚马逊和 Alphabet 支持的 Anthropic 未立即对这笔交易发表评论。美国人工智能安全研究所还与英国同行密切合作，以确保在人工智能安全方面开展国际合作。该研究所是拜登总统行政命令的一部分，旨在应对新兴人工智能技术带来的风险。
评论