大模型供应链安全要求

大型语言模型供应链安全要求

范围
本标准提出大型语言模型（LLMs）供应链安全保护的框架，涵盖LLMs开发、运营和维护的供应链活动，管理相关安全风险，并说明常见风险和安全案例。适用于供应链中的供应商和消费者，也可作为第三方组织进行安全测试和评估的基础。

术语和定义
定义了人工智能、大型语言模型、供应商、软件供应链、开源社区、第三方组件、机器学习平台、大型语言模型推理框架、大型语言模型应用框架、分布式计算框架和机器学习物料清单等关键术语。

供应链安全保护概述
LLM供应链涵盖模型生命周期的所有阶段，涉及两类安全需求：通用安全需求（如程序、组织、人员和信息系统）和系统结构相关安全需求（网络、系统、平台、模型和数据层）。

LLMs供应链安全管理目标

• 诚信：确保产品及其组件在生命周期内不被篡改或替换。
• 可用性：保证供应链对消费者的持续可用性。
• 保密：防止信息泄露。
• 可控性：确保消费者对供应链的透明度和控制权。
• 可靠性：保障网络安全、高可用性和灾难容错能力。
• 可见性：追踪所有变更和更新。

供应链安全管理系统在大型语言模型中的应用

• 规章管理：制定风险管理法规、持续监控、风险评估和事件响应机制。
• 组织和人事管理：提出安保要求，制定安全培训计划。
• 供应商管理：制定供应商选择策略，确保信息真实性，要求供应商合作进行安全监控。

LLMs的供应链安全要求

• 网络层：网络分段、安全加密、访问控制、异常监控、配置审计。
• 系统层：操作系统安全更新、访问控制、安全监控；系统软件安全安装、更新、配置；运行环境隔离、监控、日志审计。
• 平台和应用层：第三方组件管理、模型推理框架安全验证、模型应用框架防护、分布式计算框架网络隔离和验证。
• 模型层：模型获取安全检查、部署工具监控、机器学习物料清单（ML-BOM）维护、合规性评估。
• 数据层：访问控制、加密、数据一致性验证、备份和灾难恢复；数据合规性审查、敏感数据去敏、政策公开和审计。

总结
本标准为LLMs供应链安全提供多层防护框架，涵盖全生命周期，强调技术（如ML-BOM、零信任）和组织合规，旨在构建安全、可信赖的AI系统，推动AI技术安全演进。