AI大模型的数据安全威胁场景及解决方案
大模型环境：模型盗用、窃取和破坏
- 场景描述：使用方或攻击者可能通过窃取模型文件并在异地部署使用，或利用内部管理人员的误操作或恶意使用导致模型被盗用、窃取或破坏。
- 解决方案：采用基于TVM的端上模型部署加密方案，模型文件在本地加密，推理运行时解密，同时监控管理模型环境的操作、运维和升级。
- 相关产品：TVM-safe tensor、堡垒机。
模型服务：模型合规问题
- 场景描述：大模型上线和使用需遵守《数据安全法》《个人信息保护法》《GDPR》等法律法规，涉及数据收集合法性、主体授权、处理目的透明度、存储传输安全等要求，未来政策标准将更完善。
- 解决方案：数据收集阶段提供告知书，分类分级管理；存储环节加密并严格访问控制；运行过程基于可信硬件保障隐私和安全隔离；使用环节检查输出数据，敏感信息替换为掩码。
- 相关产品：机密计算平台、数据安全治理中心、密钥管理系统、云访问安全代理、堡垒机。
商业机密或重要数据泄漏
- 场景描述：
- 模型提供方：训练过程中接触大量明文数据（业务信息、用户信息），泄漏或滥用造成损害；对外提供模型服务，非法使用者可获取结果或窃取数据。
- 模型使用方：输入数据可能涉及商业机密，外部大模型使用易导致数据泄漏，内部大模型也存在被恶意利用风险。
- 解决方案：
- 提供方：AI智能分析API数据传输，量化评估与内部关键数据的关联性；加密训练数据，严格控制访问权限，禁止离线下载。
- 使用方：数据输入前分类分级，盘点敏感数据，避免进入黑盒造成不可控影响。
- 相关产品：密钥管理系统、堡垒机、数据安全治理中心。
大模型数据安全合规
- 解决方案：
- 数据收集：提供必要性和管理措施告知书，分类分级敏感数据。
- 存储：加密敏感数据，严格访问控制和审计。
- 运行：基于可信硬件构建可信执行环境，保障隐私和数据隔离。
- 使用：检查输出数据，敏感信息替换为掩码。
- 相关产品：机密计算平台、数据安全治理中心、密钥管理系统、云访问安全代理、堡垒机。
多方信任与安全模型
- 服务平台方：保证TEE的机密性和完整性，提供证明。
- 模型提供方：模型加密集成PKI体系，仅私钥授权数据可在TEE中使用。
- 模型使用方：私钥授权后协商DEK加密数据，在TEE中完成推理。
- 安全模型：
- CPU：机密性基于MK-TME加密，完整性支持本地和远程证明。
- GPU：机密性独立DEK加密，完整性暂支持本地证明，远程证明规划中。
核心优势
- AI能力结合：智能化敏感数据识别，覆盖复杂场景，提高准确率。
- 免改造接入：架构层面减少入侵，快速接入，降低运维成本。
- 云原生方便快捷：SaaS/PaaS架构，支持云原生产品一键同步。
- 多数据源支持：支持结构化、非结构化数据，满足多类模型需求。
- 安全合规有效：获得信通院、IDC、Gartner多项认证，案例获评优秀。
