欧盟人工智能法案全面3治理计划

欧盟人工智能法案强制要求及治理计划

I. 高风险人工智能系统要求

• 供应商要求：维持质量管理系统注册、人类监管数据与数据治理授权、一致性评估记录、风险管理系统、技术文件文档（精度、稳健性、网络安全）。
• 部署者要求：维持AI系统日志与记录、基本权利影响评估、监控与通知、事件披露、关于AI决策制造雇主通知、操作说明代表工人、使用输入数据高风险AI的使用分配、人类监管、监管合作。
• 基本权利影响评估：由公共法律治理机构、私人实体提供的公共服务、评估信用价值与信用评分、健康和人寿保险风险评估与定价的部署者必须完成。
• 人工智能价值链：分销商和进口商需验证高风险AI系统符合法案要求，并披露自身名称或商标；对高风险AI系统进行重大修改或修改非高风险AI系统预期用途时，需进行验证和披露。

II. 提供方的透明度义务

• 部署特定人工智能系统的实施者：供应商需确保AI系统与用户交互时进行通知，例外情况包括显而易见或用于检测、预防、调查犯罪行为的AI系统。
• AI系统生成或操作内容：部署者需披露深度伪造内容（图片、音频、视频）和AI生成文本，除非有人工审核。

III. 通用人工智能模型

• 关键概念：通用AI模型具有执行各类不同任务的能力，与系统性风险具有“高影响力能力”的模型（以FLOPs衡量）。
• 关键要求：供应商需保持工程技术文档、设立符合欧盟版权法的政策、发布训练数据摘要、在欧盟任命授权代表、执行最先进的模型评估、通知委员会并评估/减轻系统性风险、跟踪并报告严重事件、确保网络安全。

IV. 欧盟层面的AI治理

• 欧盟机构：包括欧洲人工智能委员会、人工智能办公室、顾问论坛、国家监管部门、科学家小组、独立专家、通知机构、市场监控当局。
• 企业人工智能治理的10大支柱：人工智能风险管理框架、AI发现（存货和目录）、第三方风险管理、人工智能治理政策和标准、人工智能治理委员会与监督、技术防护栏和工具、教育、培训及意识、指标、保证与审计、监管监测与准备、隐私、网络安全和数据治理。

V. 为欧盟人工智能法案准备的实际步骤

• 五个问题以风险评估人工智能项目：
  1. 通过人工智能解决什么问题？有哪些应用案例？
  2. AI系统生成了哪些输出？
  3. 使用了哪些数据用于AI的训练和发展？
  4. 这些输出将如何被使用？
  5. 如果人工智能的输出存在缺陷、不准确或存在偏见，其影响是什么？
• 五个问题要问人工智能提供商：
  1. 您的AI治理方法是什么？以及如何确保符合欧盟AI法案？
  2. 您将提供任何赔偿吗？
  3. 您会使用我们的数据来训练、重新训练或改进您的模型和服务吗？
  4. 您如何缓解关键风险（例如，偏差、准确性、可解释性）？
  5. 您可以提供“使用说明书”和更广泛的技？
• 顶级建议：学习说人工智能和数据科学的语言、务实地考虑按比例和基于风险、坚持不懈，耐心且政治敏锐。

问题与解答

• 奥利弗·帕特尔，CIPP/E成员，经合组织专家人工智能风险小组责任AI治理学院和研究成果咨询委员会成员，IAPP企业人工智能监管负责人，阿斯利康有限公司。