欧盟人工智能法案全面2了解风险

AIGG24 AI Governance Global 2024会议内容总结：

1. 会议背景与定义：

   • 强调AI系统应安全、可靠、值得信赖，支持工作者，促进公平、透明和问责制，推动创新。
   • AI生命周期治理包括：用例选择、设计和功能选择、数据和发展、部署、监控、停用。

2. EU AI Act背景：

   • 目标是确保AI系统尊重欧盟价值观和基本权利，符合现有法律标准。
   • 重点关注以人为本、值得信赖的AI，强调AI系统应安全、透明、可问责，以保护公民的权利和自由。
   • 欧盟致力于在全球范围内引领AI的道德方法。
   • 确保AI技术不会损害公共利益。

3. 定义：

   • AI系统：根据OECD指南，定义为一种基于机器的系统，旨在以不同的自主程度运行，在部署后可能表现出适应性，并且为了明确或隐含的目标，从其接收的输入中推断如何生成输出，如预测、内容、推荐或决策，这些输出可以影响物理或虚拟环境。
   • 基础模型：从旨在优化输出通用性和多样性的算法中开发而来，通常在广泛的数据源和大量数据上训练，以完成各种下游任务。
   • 通用人工智能（GPAI）模型：具有显著通用性，能够胜任各种不同任务的人工智能模型。
   • 通用人工智能（GPAI）系统：基于通用人工智能模型，能够服务于各种目的的人工智能系统。
   • 具有系统性风险（GPAI_SR）的通用人工智能模型：具有特定于通用人工智能模型高影响能力的风险，由于其范围或由于对公共健康、安全、公共安全、基本权利或整个社会的实际或可合理预见的不利影响，可以在价值链上以规模传播的风险。

4. 风险类别：

   • 包括不可接受的风险、高风险、有限风险和最小风险。
   • 不可接受的风险包括：潜意识技术、故意操纵或扭曲行为、损害知情决策能力、利用个人/群体的年龄、身体/心理能力等。

5. 合规义务：

   • 高风险AI系统需注册和报告，进行一致性评估，实施风险管理措施，报告“严重事件”，进行测试和上市后监控。
   • GPAI模型提供商需提供技术文档、信息和文档，明确版权影响，确保透明度，嵌入保障措施，版权为训练数据。
   • GPAI_SR模型提供商需在市场前进行模型评估和文档记录，进行对抗性测试、准确性、缓解措施，监控系统性风险并确保问责制、适当的治理和上市后监督。

6. 透明度义务：

   • 有限风险的AI系统旨在直接与自然人互动，但还包括有限风险AI系统。