《人工智能公约》是首个旨在确保人工智能维护人权的全球条约。
2024 年 9 月 5 日，欧洲委员会《人工智能、人权、民主和法治框架公约》将在立陶宛维尔纽斯举行的欧洲委员会司法部长非正式会议上正式开放签署。该公约于 2024 年 5 月 17 日在欧洲委员会部长委员会年度会议上通过，为监管人工智能系统提供了全球法律框架，重点是确保这些技术符合人权、民主诚信和法治。
该公约旨在指导各国如何管理公共部门人工智能的开发和实施，确保人工智能技术尊重基本的民主价值观。重要的是，该公约还涵盖代表公共当局运营的私营部门实体，例如根据政府合同，这进一步扩大了其适用范围。
采用的关键原则
《框架公约》确立了实施人工智能治理的七项核心原则，签署国需要根据其国内法律框架进行调整。这些原则包括：
人类尊严和个人自主：确保人工智能不会破坏人类尊严或将个人贬低为单纯的数据点。
透明度和监督：在整个人工智能生命周期中保持透明度，确保用户能够理解人工智能生成的内容和决策。
问责：明确人工智能对人权影响的责任，包括追究行为者责任的法律机制。
平等和非歧视：在整个人工智能系统的生命周期中解决和减轻偏见。
隐私和数据保护：维护个人隐私并控制对个人数据的访问。
可靠性：确保人工智能系统的输出稳健、安全且值得信赖。
安全创新：通过支持监管沙盒和明确的指导，促进尊重民主原则和人权的创新。
公约允许国家安全豁免，即缔约方可以不执行条约来保护国家安全，只要这些活动符合国际法。
全球影响
一些人认为，该公约是全球人工智能治理的一项重大成就。其目标是协调跨境人工智能系统的监管，并创建一个可供欧洲和非欧洲国家采用的框架。该条约已经引起了国际社会的极大兴趣，包括美国、加拿大、日本和澳大利亚在内的欧洲以外国家与私营部门和民间社会观察员一起参与了谈判。
人权与民主
该公约的一个关键方面是，它注重保护人权和民主，以抵御人工智能技术可能带来的有害影响。它规定人工智能系统应始终保持人类的自主性，防止个人被非人化，并确保他们能够控制人工智能对其生活的影响。该文件还强调了透明度的重要性，敦促使用内容标签、水印和其他方法，以确保用户能够清楚地区分人类生成的内容和人工智能生成的内容。
批评
尽管该条约具有历史意义，但一些人认为它未能发挥预期作用。有人对该条约的有效性表示担忧，认为它主要是重申现有做法，而不是引入实质性监管措施。
欧盟数据监管机构 担心 ，由于外国商业利益的压力，人权标准可能会受到损害。欧洲数据保护监督机构 (EDPS) 认为，该提案在应对人工智能带来的风险和挑战方面做得还不够。在欧洲委员会负责该公约的特设委员会的谈判 中，该文本与原版相比被大大削弱 。EDPS 将其描述为“错失了制定强大而有效的法律框架以保护人工智能发展中人权的机会”。
这为什么重要？
《框架公约》在维尔纽斯开放签署，标志着人工智能治理的重要时刻。虽然《公约》制定了雄心勃勃的议程，但其成功取决于签署国是否愿意通过自己的立法和监管体系实施其原则。如果得到广泛采用，这将成为人工智能治理的全球基准，并有可能启发其他地区制定类似的框架。
评论