2024人工智能内生安全白皮书

一、AI概述

• AI技术发展历程：从20世纪50年代的图灵测试，到早期的符号逻辑推理，再到机器学习、深度学习，以及如今的大模型时代，AI技术经历了漫长的发展历程。
• 大模型发展趋势：大模型以Transformer模型为基础，参数规模庞大，应用领域广泛。发展趋势包括参数规模扩大、多领域应用、安全性提升等。

二、AI内生安全风险问题与挑战

• AI自身与应用安全风险问题：
  • AI基础设施安全风险问题：包括硬件、操作系统、容器、AI框架、AI平台等自身风险，以及AI业务全生命周期中的高价值模型等资产风险。
  • 数据安全风险问题：包括传输截获风险、运营方窥探风险和模型记忆风险等。
  • 模型安全风险问题：包括模型逆向工程风险、Prompt攻击风险、模型幻觉问题、模型更新和演化风险等。
  • 应用服务安全风险问题：包括用户提问行为风险、用户反馈行为风险、用户提问内容风险、大模型生成内容合规与滥用或恶意使用风险、大模型应用决策安全等。
• AI监督与管理挑战：监管的复杂性和不完备性、监管的滞后性等。

三、AI内生安全体系

• AI内生安全目标：安全、可靠、可控。
• AI内生安全体系：包括监督与管理体系和技术体系。
  • 监督与管理体系：围绕国家法律法规、人工智能安全治理顶层设计、伦理道德约束等方面，制定法规政策，提升监管的完备性。
  • 技术体系：包括AI基础设施安全、数据安全、模型安全、应用服务安全等。

四、AI内生安全监管现状

• AI内生安全法律法规政策现状：欧盟、美国、中国等国家都出台了一系列政策法规，引导人工智能技术安全发展。
• AI内生安全标准规范现状：国际组织和各国都积极制定AI安全标准，推动人工智能技术更加安全、稳定、高效地应用。

五、AI内生安全技术解决方案

• AI基础设施安全解决方案：包括AI基础设施自身安全和AI基础设施承载资产安全。
• 数据安全解决方案：包括AI数据安全管理和AI数据安全增强。
• 模型安全解决方案：包括模型训练安全、模型流转安全、模型推理安全、模型微调安全、私有化部署安全、模型演化与更新、模型审计与跟踪、安全修复与更新等。
• 应用服务安全解决方案：包括业务风控系统、内容安全防护体系和过滤体系、大模型决策安全优化等。

六、AI内生安全发展建议

• AI内生安全技术发展建议：推进AI基础设施软硬件协同发展、建立全周期AI数据安全与隐私保护、加强人工智能模型内生安全前沿技术研究等。
• AI内生安全监管与保障建议：完善监管治理生态、构建安全保障机制等。