欧盟人工智能法案的进展与框架

2021年首次发布的关于机器学习应用操作和治理的监管结构提案后，欧盟理事会于2023年6月14日启动了立法谈判。根据相关报道，欧盟国家预计将在2023年底达成一致。

法案的核心原则与风险分级

欧盟人工智能法案采用了基于风险的方法，旨在避免在执行监管时提出不成比例的规定。由于“人工智能”一词的模糊性，法案的原则关注任何基于算法和模型的系统的普遍风险因素，包括判别式、生成式机器学习模型（如大型语言、语音和视觉深度网络）以及未来可能的智能系统（即真正的人工智能，而非当前市场营销中的滥用）。

法案今年受到广泛关注，主要因为生成式模型输出的可信度因使用互联网规模的数据和高性能加速器而大幅提升。该立法是全球范围内为未来基于模型的系统发展和应用奠定基础的努力的一部分，例如美国的《算法问责法案》、加拿大《人工智能与数据法案》以及日本类似的AI战略法律。

风险分级与相应措施

法案的原则建立在四种风险因素之上，旨在根据系统可能带来的不利影响，为提供商和用户匹配透明度、规则、义务和监控：

• 最低风险系统：允许自由使用，例如模型辅助的视频游戏角色动作控制或3D渲染。
• 有限风险系统：提供商有义务告知用户正在与机器学习系统互动，用户可以选择继续或离开平台，例如图像、视频、声音编辑程序。
• 高风险系统：这些系统可能对公共权利、健康、安全或环境造成损害，因此需承担最高级别的义务和监控。
• 不可接受风险系统：这些系统将被禁止。

高风险与不可接受风险系统的关键点

不可接受风险系统通常涉及利用物理生物特征数据、情感、性别、种族、民族、公民身份、宗教和政治倾向进行推断，可能导致歧视性操作，或操纵认知和行为（例如通过生成语音激励有害行为的玩具）。然而，法院批准后用于严重犯罪识别的生物特征数据处理（非实时）被豁免。

高风险系统因广泛部署的大型不可解释深度网络而受到特别关注。这些系统覆盖更大的商业领域，因此提出了更严格的评估、监管和监控程序：

• 模型必须在欧盟数据库中注册。
• 平台必须披露每项内容是否由模型生成。
• 平台必须确保防止生成非法内容。
• 平台必须提供训练阶段使用的版权数据相关摘要。

透明度与版权保护

考虑到大型深度网络API提供商往往隐瞒训练数据细节，欧盟的要求将提高透明度，使版权所有者能够采取必要行动。

与《欧盟数据法案》的区别

需要注意的是，欧盟人工智能法案不应与《欧盟数据法案》混淆。后者旨在实现欧盟数据经济的更广泛目标，并关注欧盟的数据主权（例如防止物联网数据供应商锁定等）。