AI基础设施安全白皮书

AI基础设施安全白皮书总结

行业背景与安全挑战

全球数字经济进入以人工智能为核心驱动的新阶段，AI基础设施作为承载海量数据处理、模型训练与推理任务的关键底座，其安全性直接影响人工智能应用的可靠性与可持续发展。近年来，算力需求呈现爆发式增长，构建高效、安全、可靠的AI基础设施成为重要前提。然而，安全风险日益凸显，包括数据跨境流动、大模型应用备案、算法备案等监管要求持续收紧；多云架构的复杂性导致API接口暴露、权限管理失控等问题频发；大模型层面，提示词注入、模型窃取、数据投毒等新型攻击手段涌现。

国家政策法规解读

当前AI基础设施建设中安全相关的政策法规主要包括：

• 数据安全保护能力：《中华人民共和国网络安全法》、《中华人民共和国密码法》、《中华人民共和国数据安全法》、《关键信息基础设施安全保护条例》等。
• 强化产业链供应链安全：鼓励算力基础设施采用安全可信的基础软硬件进行建设，保障供应链安全。
• 保障算力设施平稳运行：强化算力网络保障，加强物理设施保护，建立热备双活机制。
• 云安全：严格落实网络安全法律法规要求，强化安全技术手段建设。
• CASB（云访问安全代理）深化应用：实时监控云服务访问行为，强制执行数据加密、访问控制及合规策略。
• CNAPP（云原生应用保护平台）全生命周期防护：实现“左移”安全（开发阶段嵌入安全控制）和“右移”防护（运行时实时监测）。
• CSPM（云安全态势管理）持续观测：识别配置漂移与潜在攻击路径，依据业务重要性与暴露面做风险分级与处置优先级排序。
• 《生成式人工智能服务管理暂行办法》：对AI基础上设施中生成式人工智能服务的研发、提供、使用等环节进行全面规范。

技术前沿趋势

• AI安全：AI技术在安全防护中的应用，如基于机器学习与神经网络的AI算法，能对海量安全数据进行实时分析，建立正常行为模型，快速准确识别异常行为。
• 增强网络安全保障能力：严格落实网络安全法律法规要求，强化安全技术手段建设，推动威胁处置向风险预警和事前预防转变。
• AI算法与模型自身的安全防护：针对不同AI业务场景，AI算法面临多种攻击威胁，需考虑鲁棒性，并配合体系化安全对齐机制实现算法层面的安全加固。
• AI数据的安全保障：数据是AI业务的基石，也是攻击者重点关注的切入点，需针对AI业务数据生命周期各阶段布置安全保护措施。

AI基础设施安全风险洞察

• 数据算力安全风险：AI基础设施作为智能时代的算力枢纽，其稀缺的算力资源与海量敏感业务数据，成为攻击者眼中的“高价值猎物”。
• 模型技术安全风险：AI技术迭代迅猛，但安全建设常跟不上创新节奏，模型推理易输出违规内容，既违反法律法规，也会对用户、社会造成不良影响。

百度AI基础设施安全架构

百度AI基础设施安全架构构建了全方位、多层级的安全防护体系，以保障算力中心稳定、合规、安全运行，具体从合规要求、标准规范、核心安全域及管理与运行体系展开：

• 合规与标准规范：以法规要求为刚性约束，覆盖《网络安全法》等法规，确保业务合法合规；遵循《信息安全等级保护2.0》等标准，为AI基础设施安全建设提供技术指引与评测依据。
• 核心安全域：
  • 云平台安全：夯实AI基础设施底层基座，安全治理、计算、存储、网络安全保障基础设施稳定，安全合规确保平台资质达标，物理安全守护机房、硬件，安全运营与数据安全保障运维可控、数据全生命周期安全。
  • 云服务安全：提供一体化租户安全防护能力，覆盖网络、主机、应用、数据等全方位安全需求，租户可根据自身业务需求灵活选择安全服务。
  • 算力调度平台安全：针对大规模算力场景需求，平台支持容器、裸金属虚机等多元基础设施，适配自建与服务托管场景，助力企业向智能化、集约化转型。
  • 模型应用安全：聚焦AI基础设施模型应用安全全流程，以内容合规把控输出边界，防范违规信息生成；以模型安全保障算法逻辑、训练过程可信，抵御投毒、篡改等攻击；依托数据安全守护训练与推理数据，实现分级加密、合规流转；通过应用安全加固业务入口，防范漏洞利用与恶意访问。
• 管理与运行体系保障：以安全方针明确战略方向，安全组织落实岗位权责，安全规范细化操作准则，风险控制建立全周期风险闭环，从制度流程层面保障安全落地；通过安全服务提供专业技术支撑，安全运维保障日常稳定，安全运营（监测、响应、优化）实现动态防护，构建“规划 - 执行 - 监测 - 迭代”的持续安全能力。

百度AI基础设施大模型应用安全

• 大模型安全护栏建设：
  • 语料安全建设：对大模型训练、隐私保护、合法合规具有重要作用，降低重复数据导致的模型训练过拟合，提升模型泛化能力；清洗风险数据（个人隐私、歧视、偏见、涉及侵权等）和不合规数据（涉黄、涉暴等），提升模型合规水平；提升数据质量，清洗错误数据，提升模型质量和透明度。
  • 输入与模型生成安全：通过内容分类算子、内容干预系统等，管控模型输入输出，防范违规内容生成，保障模型交互安全。
• 大模型数据安全建设：加强敏感数据和机密数据保护，实施数据加密管控等基础保护措施，定期开展大模型业务的数据安全风险评估。
• 大模型安全评测能力建设：通过建立自动化的攻击语料生成能力、自动化大模型回复风险标注能力、大模型安全评测框架，实时追踪大模型内容安全能力的动态变化，及时定位大模型潜在的内容安全漏洞，全面保障模型的安全内容输出能力。

百度AI基础设施安全合规

• AI基础设施合规需求分析：AI基础设施建设呈现规模化、重运营、强监管的趋势特点，安全合规体系建设的重要性日益凸显。
• AI基础设施大模型安全合规：
  • 大模型安全合规背景：新的技术带来新的风险，国家网信办发布一系列管理办法及要求，为模型安全划定底线、统一要求、提供指导。
  • 大模型安全合规建议：按开放范围分为面向公众开放和企业内部使用两类合规场景，分别给出合规建议。
• AI基础设施等保密评合规实践：
  • 等保合规：AI基础设施运营者按等保要求（多数云平台为三级）合规建设及测评，否则将面临罚款、业务暂停等处罚。
    • 百度云平台等保合规体系：围绕云管理平台Console、云运维平台NoahEE为核心的云平台软件系统及其管理使用的基础设施进行安全能力建设，技术方面主要根据相关标准分为安全物理环境、安全区域边界、安全通信网络、安全计算环境和安全管理中心五个方面。
    • 面向等保合规的百度云服务：云平台自身等保合规，以及为云平台上业务应用系统提供符合等保合规要求的安全服务能力。
  • 密评合规：遵循《关键信息基础设施安全保护条例》《商用密码管理条例》等合规要求，在AI基础设施建设、规划和运营阶段同步考虑密评相关工作，保障所使用的密码算法符合商用密码应用要求。
    • 百度云平台密评合规改造：建设密码基础资源池，对云平台核心系统实施密码改造，构建起覆盖核心系统真实性、完整性、机密性及不可否认性的商用密码服务体系。
    • 面向密评改造的百度云密码服务：通过在虚拟私有云（VPC）内部署国密VPN安全网关，构建符合国密标准的加密通信通道，系统性解决云用户与云资源间的传输安全需求。

百度AI基础设施安全管理与运营

• AI基础设施安全运营管理：强调对威胁态势的实时感知和对攻击事件的全链路处置，通过安全态势感知平台与部署在平台各处的安全防护产品的协同，以及专业安全团队的7x24小时值守运营，实现对安全威胁的高效发现和综合处置。
• 安全运营成功的关键点：丰富的日志与数据的采集、科学高效的告警研判与分析流程、分级分层的安全运营策略。
• 持续运营改进与业务保障：通过周报/月报的形式与算力运营单位共同进行运营效果的优化提升，聚焦关键风险、主要告警趋势、处置情况、改进建议等，包括但不限于不断完善检测规则、缩短误报与漏报之间的差距；优化事件处置流程与自动化响应脚本，提升协同效率；引入更多安全能力（如SOC、SOAR），实现安全运营效果的升级和质变。

百度AI基础设施安全实践案例

• 某地方万卡集群算力中心安全建设案例：该中心部署万卡级GPU集群，承担算力售卖、多租户运营等核心业务，核心安全挑战集中在互联网攻击风险、合规压力突出、运营复杂度高，通过构建可管可控的互联网攻击防御机制、实现合规达标基础上的风险可控、建立高效及时的运营响应体系，打造全栈式安全防护能力。
• 某广电AIGC平台安全建设案例：某广电客户为借AIGC突破发展，规划新建云智一体专有云平台，安全需求支撑AIGC应用，应对算力密集型场景安全挑战；保障IPTV应用零改造、不中断迁移及后续运营安全；满足自主可控要求，应对多场景安全威胁；配备成熟云安全管理平台及系列产品，覆盖多场景安全；符合关键信息基础设施安全保护要求，满足等保、密评强合规标准。
• 某头部移动设备厂商大模型内容安全建设案例：某头部移动设备厂商计划在国内推出首款AIPC和pad，通过大模型技术辅助办公场景的文件查找、翻译、总结等能力，主打纯离线运行、高隐私保护等产品主张，端侧的大模型相比云端大模型场景面临更严重的内容合规风险，也将面临更严苛的备案审核要求。

总结与未来展望

• 全维度安全体系已形成闭环：从底层基础设施到上层模型应用，百度算力中心构建了“边界-平台-租户-密码-模型-运营”六层联动的安全防护体系，既满足刚性合规要求，又精准应对新型威胁。
• 技术与管理深度融合是核心支撑：在技术层面，依托云原生安全、AI威胁检测、国密算法等前沿技术，实现了从物理环境到虚拟资源、从数据传输到模型推理的全链路防护；在管理层面，通过安全组织架构、制度流程、人员培训等体系化设计，确保技术能力有效落地。
• 安全运营驱动持续进化：以安全运营中心（SOC）为枢纽，通过资产管理、告警值守、漏洞管理等模块，实现了安全风险的“可视、可管、可控”，结合实战化演练与威胁情报联动，保障了安全体系对动态威胁的快速响应，为算力中心稳定运行提供了“合规+防护+运营”三位一体的坚实支撑。
• 未来展望：算力中心安全将迎来新的演进方向，包括智能化防御成为核心能力、量子抗性与密码技术升级、生态协同与合规深度融合、百度云安全的持续突破。