机密计算保障人工智能系统安全研究报告

AI安全需求与挑战

• 大模型时代的安全需求：新一代AI在提高生产力和效率的同时，带来前所未有的安全挑战，亟需建立涵盖数据安全、算法安全、模型安全和系统安全的AI安全框架。
• AI安全的主要风险和挑战：包括平台可信性风险、内存攻击、存储攻击、侧信道攻击、模型窃取攻击、模型后门攻击、缺乏可解释性、对抗性攻击、数据投毒攻击等。
• 现有AI安全解决思路的局限：现有方案主要集中在数据、算法和模型安全，假设云服务可信，忽视云服务风险，且在保护用户隐私数据传输和系统层安全方面存在不足。

机密计算现状与趋势

• 机密计算技术原理与应用价值：利用TEE保障“使用中”的数据安全，提供全方位、全生命周期的数据保护，尤其适用于云和边缘计算环境。
• 机密计算技术路线与产业生态发展历程：不同技术路线（内存加密、隔离机制等）存在互操作性问题，但行业联盟和标准化组织正推动互操作性，系统级TEE方案是未来发展方向。
• 机密计算技术方向与发展趋势：技术融合（AI、区块链、5G等）、通用范式（隐私保护技术革新）、软件方面（新兴编程语言和工具）、硬件方面（专用安全功能）。

机密计算保障AI系统安全

• 机密计算保障AI系统安全的思路：通过系统层AI安全技术，减少信任实体，实现AI全过程保护、模型透明使用、过程完整性保护、数据隐私和合规性，并解决计算资源和效率问题。
• 微软Azure机密AI技术：基于SEV-SNP，引入可信第三方，整合ACI、AKV和AAD，实现推理客户端和服务器间的可信通信，并应用GPU机密计算加速。
• 阿里云机密AI技术架构与实现：运用TEE分离模型数据所有权和使用权，结合Trustiflux和Trustee框架，实现模型数据安全共享和用户隐私保护。
• 阿里云机密AI技术的核心优势：对上层应用透明、用户数据“使用中”加密、可审计证明的安全过程、系统硬件层高强度安全。
• 阿里云机密AI技术的典型场景：模型训练和推理场景。

机密计算保障数据和模型安全

• 机密计算保障AI数据和算法安全：通过TEE实现数据隔离与保护，实现数据最小化使用，为AI算法安全防护提供支持。
• 机密计算全面保障AI模型安全：聚焦模型知识产权保护，基于机密虚拟机的保护方案展现出显著优势，有效抵御多方威胁。

机密AI未来趋势展望

• 发展规模持续扩大：关键行业对多方安全计算的需求增长，硬件技术进步，数据隐私法规要求推动机密AI发展。
• 标准建设逐步完善：包括服务框架、平台框架协议、安全管理框架、基于机密计算的应用标准、检测评估标准、算法与协议规范、应用接口规范、软硬件加速技术规范、平台功能规范。
• 技术协同态势显著：密码学技术进步、隐私保护机制创新、安全协议强化、可信计算机制建立、虚拟机和操作系统安全、容器和微服务安全、零日软件漏洞缓解技术、侧信道与微架构防护技术。
• 行业应用不断深化：电子政务、金融、医疗、商业、工业等领域将利用机密AI实现数据安全共享、风险评估、疾病诊断、消费者行为分析、生产流程优化等。