该监管举措解决了人们对生成性人工智能的担忧,生成性人工智能如果被滥用,可能会扰乱就业、选举,并带来重大威胁。
美国商务部提出了新规定,要求先进人工智能开发商和云计算提供商向政府报告其活动。该提案旨在确保尖端人工智能技术的安全,特别是防止网络攻击。
该法案还要求详细报告网络安全措施和“红队”行动的结果。红队行动旨在测试系统是否存在漏洞,包括可能被滥用进行网络攻击或开发危险武器的情况。
此举正值人工智能(尤其是生成模型)引发兴奋和担忧之际,人们担心人工智能会取代工作岗位、干预选举和灾难性风险。根据该提案,收集的数据将帮助美国政府执行安全标准并防范来自外国对手的威胁。
这为什么重要?
拜登总统于 2023 年颁布行政命令,要求人工智能开发商在向公众发布某些系统之前与政府分享安全测试结果,随后出台了监管措施。新规出台的背景是人工智能立法行动陷入停滞,这是限制外国势力(尤其是中国)使用美国技术的更广泛努力的一部分。
评论