人工智能安全治理框架中文版

人工智能安全治理框架（V1.0）

1. 人工智能安全治理原则

• 包容审慎、确保安全：鼓励创新，严守安全底线。
• 风险导向、敏捷治理：动态调整治理措施，及时响应监管需求。
• 技管结合、协同应对：技术与管理结合，明确各方安全责任。
• 开放合作、共治共享：推动全球合作，形成广泛共识的治理体系。

2. 人工智能安全治理框架构成

• 安全风险：梳理人工智能技术和应用中的安全风险。
• 技术应对措施：通过技术手段提升人工智能产品及应用的安全性。
• 综合治理措施：多方协同共治，防范化解安全风险。
• 安全开发应用指引：指导模型算法研发者、服务提供者、重点领域用户和社会公众的安全应用。

3. 人工智能安全风险分类

• 人工智能内生安全风险：
  • 模型算法安全风险：可解释性差、偏见歧视、鲁棒性弱、被窃取篡改、输出不可靠、对抗攻击。
  • 数据安全风险：违规收集使用数据、训练数据含不当内容、标注不规范、数据泄露。
  • 系统安全风险：缺陷后门被攻击、算力安全、供应链安全。
• 人工智能应用安全风险：
  • 网络域安全风险：信息内容安全、混淆事实误导用户、不当使用引发信息泄露、滥用于网络攻击、模型复用缺陷传导。
  • 现实域安全风险：诱发传统经济社会安全风险、用于违法犯罪活动、两用物项和技术滥用。
  • 认知域安全风险：加剧“信息茧房”效应、用于开展认知战。
  • 伦理域安全风险：加剧社会歧视偏见、挑战传统社会秩序、未来脱离控制。

4. 技术应对措施

• 针对人工智能内生安全风险：
  • 提高模型算法可解释性、可预测性。
  • 建立安全开发规范，消除缺陷和歧视。
  • 加强数据安全管理，防止泄露和侵权。
  • 提升系统透明性，加强供应链安全。
• 针对人工智能应用安全风险：
  • 建立安全防护机制，确保输出可靠。
  • 设置服务提供边界，防止滥用。
  • 提高追溯能力，防止用于高危场景。
  • 加强检测技术，防范认知战手段。
  • 防止产生歧视，具备应急管控措施。

5. 综合治理措施

• 实施人工智能应用分类分级管理。
• 建立人工智能服务可追溯管理制度。
• 完善人工智能数据安全和个人信息保护规范。
• 构建负责任的人工智能研发应用体系。
• 强化人工智能供应链安全保障。
• 推进人工智能可解释性研究。
• 建立风险威胁信息共享和应急处置机制。
• 加大人工智能安全人才培养力度。
• 建立健全人工智能安全宣传教育、行业自律、社会监督机制。
• 促进人工智能安全治理国际交流合作。

6. 人工智能安全开发应用指引

• 模型算法研发者：践行“以人为本、智能向善”，重视数据安全，评估潜在偏见，定期开展安全评估测试。
• 人工智能服务提供者：公开产品和服务能力，支持使用者知情选择，建立健全风险监控管理机制。
• 重点领域使用者：审慎评估应用场景，定期进行系统审计，增强网络安全能力，确保操作符合保密规定。
• 社会公众：提高风险认识，选择信誉良好的产品，了解产品功能限制和隐私政策，避免输入敏感信息。