规模化AI安全防护 ：威胁无形，防御有韧

规模化AI安全防护 中国洞察 目录 前言...........................................................................3引言...........................................................................5 第一部分AI攻防赛场...............................................................8 第二部分动态防御：AI驱动的暴露面管理..........................13 第三部分以AI为擎，驱动增长............................................18 第四部分 凝聚生态合力，护航AI规模化............................22 行动指南.................................................................28 IBM和Palo Alto如何提供帮助 IBM Consulting与Palo Alto Networks携手合作，为企业提供AI驱动的全方位一体化安全解决方案。从方案设计到具体实施，我们助力企业推动网络安全体系升级，节约成本和资源，并增强应对当前复杂网络威胁的能力。了解更多信息，请访问ibm.com/consulting/palo-alto。 传统安全模型，难防AI威胁 人工智能（AI）加速攻击手段创新、重塑威胁格局，企业安全行至新的临界点。全球三分之二和中国80%的受访高管坦言，其所在组织在过去一年中遭遇过AI驱动型网络攻击。智能体AI威胁的时代，攻击更快、更持久、更具自适应能力，攻击以机器级的速度与耐力运行，持续挖掘漏洞并实时调整攻击策略，令传统安全运营难以招架。 甚至能够实现自主响应。同样关键的是，平台化路径为负责任的AI治理提供了坚实根基，确保创新不以牺牲信任、透明度与可控性为代价。 当然，单靠技术远远不够，真正的突破需要运营模式与合作生态的同步演进。随着AI全面融入企业运营，安全领导者需与IT及业务部门建立深度协作机制。面对无先例可循的大规模运行时安全需求，企业亟需构建全新的安全责任共担模型，以有效应对AI优先工作方式带来的速度与不确定。唯有如此，AI方能成为企业安全可信运营的基石，驱动增长机遇。 面对新型攻击主体，企业安全也必须升级打法。AI使网络攻击者力量倍增，这意味着，即便高度自动化的防御系统，也未必能守住关键任务的底线。以AI守护AI，是唯一的破局之道。 简言之，您的AI必须胜过对手。传统工具的局部优化已远远不够，需重构安全运营：构建一个AI驱动、智能体自动化、平台化的架构，整合企业全域数据、智能自动化与治理能力。当AI深度嵌入企业运营，安全守护的对象不仅是资产，更要保障决策与结果安全；攻击面亦不再仅由技术定义，而是日益嵌入情境与语义之中。在这个AI驱动的新世界里，即便是各领域最优的单点解决方案，也将疲于应对攻击者的学习与演进，留下致命的防护空白。 目前，大多数组织尚未达到这一目标。本报告系统分析了当前快速演变的形势，并指明发展路径。我们诚邀您深入研读，共同探讨企业安全应如何即刻演进，以在AI驱动的世界中保持领先。 Mohamad Ali IBM Consulting高级副总裁 BJ Jenkins 经过精心构建的统一平台，以AI为先，能够将IT、安全与业务运营整合为一体。这让安全团队得以从被动响应，跃升为持续主动的预防、修复与韧性建设。例如，智能体AI防御可以自动扫描与管理暴露面，将威胁进行分级排序，推荐应对策略，在经由安全领域专家核准的成熟场景中， Palo Alto Networks总裁 摘要 安全与运营领导者必须正视的新现实：AI正在重塑企业格局，传统安全模式已难以为继。 AI深度融入业务，安全风险同步放大。 全球61%和中国74%的受访领导者表示，其组织的AI模型、资产或数据曾遭入侵。 AI威胁加速演进，传统安全模型力不从心。 全球67%和中国80%的受访高管称，其组织过去一年遭遇过AI驱动型攻击。传统安全模型无法通过改造应对AI特有风险，零散的单点解决方案更难以应对边界模糊、非人类身份激增等新型风险。 一体化AI运营平台，支撑规模化安全防护。 组织在规模化部署AI的同时保障安全，致力于整合AI运营体系并推行AI暴露面管理。约五分之四的全球和中国领导者认为，其组织需强化混合云、AI与安全平台的集成能力。 规模化与安全性并重的AI领航者正在涌现。 分析显示，约四分之一（24%）的组织已开始脱颖而出，它们将AI集成到运营与安全基础设施中，并采用了成熟的AI暴露面管理并共享AI治理实践。这些先行者获得了更强的安全韧性、更高的投资回报与更优的运营绩效。 以安全护AI，以AI保安全 AI正在重塑业务运营与企业网络安全两大领域。组织将AI代理引入日常工作，以数字劳动力赋能人类专家；与此同时，攻击者也在制造新型智能体威胁。1这些威胁速度更快、不知疲倦、精准度更高。2025年11月，Anthropic披露，网络攻击者利用其Claude AI模型漏洞攻击了全球30个组织。2各类网络攻击者借助广泛可用的AI模型与工具（包括智能体能力），自动执行新型攻击手段。 为理解智能体时代AI如何改变业务、技术与安全格局，IBM商业价值研究院与Palo Alto Networks携手合作，开展了一项全球调研，共访问1000名最高管理层，其中包含50名中国高管。调研聚焦两大命题：大型企业如何保障AI驱动的运营基础设施安全，以及如何利用AI构建企业安全防线。本报告的洞察与建议基于调研结果以及对安全与技术高管的访谈。 结论清晰而明确：传统安全模型正在失效，AI带来了全新的动态攻击面。3威胁情报团队已有明确证据显示，网络犯罪战术正指向AI基础设施与运营。4调研显示，全球61%和中国74%的受访领导者表示，其组织的AI模型、资产或数据曾遭入侵。 攻击的潜在破坏力不容小觑。AI攻击可潜入采购系统，自动生成海量虚假供应商发票。被篡改的模型可向供应链系统发送错误库存数据，并掩盖风险，隐藏攻击行为。5 近期爆火的智能体工具OpenClaw（中国业内俗称“龙虾”）已暴露大量安全短板，安全风险问题集中凸显。国家信息安全漏洞库（CNNVD）官方监测数据显示，仅今年3月10日至4月2日期间，就累计收录该工具相关漏洞155个，包含11个超高危漏洞与53个高危漏洞，大范围波及多个迭代版本。 从企业实际落地案例来看，盲目、仓促落地智能体工具已引发严重经营事故：某制造企业仓促部署OpenClaw后，直接造成生产线停摆72小时，预估直接经济损失超2000万元；另有法律服务机构因数据安全管控缺失、风险防护机制不完善，在使用该智能体产品过程中，发生大规模客户隐私信息外泄事件。6 然而，企业在各业务线快速部署AI的过程中，往往未能察觉自身的风险暴露点，也低估了AI特有风险对现有治理模型的冲击。7许多AI代理采用一次性认证和跨组织权限继承机制，这种基于隐式信任的部署方式暗藏重大风险。 在此背景下，企业正积极探索如何最佳地优化安全策略，但多数企业不清楚如何统筹AI投资，在强化防御的同时驱动增长。可以确定的是：未来几年，AI安全防护的成本将持续攀升。我们的研究发现，到2028年，因AI安全防护而产生的年度网络安全支出平均将增长55%。 的组织在过去12个月内，AI相关模型、资产、服务或数据曾遭攻击。全球61%中国74% 全球25%中国27%的AI项目因安全顾虑被取消、延期或未能规模化落地。 AI正遭受攻击 “智能体AI改变了威胁模型。它可以持续、静默运行，且不触发传统管控机制。攻击无需高调行动，只需长期潜伏即可实现突破。” TELUS Digital，首席信息安全官，Steve Jablonski 本报告旨在助力领导者应对复杂多变的AI格局。第一部分，剖析AI如何重塑攻防双方的博弈场，并阐释为何现有安全模型难以通过简单改造适应这一新现实。第二部分，阐述组织如何聚焦AI暴露面管理，以有效降低最具影响力的业务与运营风险。第三部分，探讨一体化AI运营模式如何为下一代安全平台构筑基础。第四部分，审视责任共担机制、互操作性与韧性生态体系如何共同保障AI安全规模化部署。每章末尾均设有“成熟度评估”，提供关键问题，帮助企业评估自身能力。第五部分，则呈现切实可行、逐步实施的行动指南。 “安全从业者的信条是：从不轻信。负责任地规模化部署自主能力，零持久权限与强管控必不可少。成功没有捷径：从一级场景入手，速赢见效，安全验证，赢得信任，再逐步提升自主化水平。” Sabre，云安全与响应高级总监，Matthew Bissell 碎片化的单点解决方案 全球组织平均使用27种不同的AI解决方案，来自来自10家供应商。 全球组织平均使用73种网络安全解决方案，来自22家供应商。 中国组织平均使用30种不同的AI解决方案，来自12家供应商。 中国组织平均使用80种网络安全解决方案，来自26家供应商。 第一部分 AI攻防赛场 70%的受访高管认为，当前网络威胁的演进速度，已超越防御体系的迭代速度。曾经用于探测主机域漏洞的自动化程序，正转变为AI恶意软件智能体集群。8这些自动化攻击主体可以快速发现并利用漏洞，行动之快令人类专家难以企及。9 从员工的“影子AI”到面向客户的AI应用，再到后台系统集成，AI在企业中深度渗透，成倍放大了安全风险。近半数全球和中国的受访高管(48%)坦言，其组织在模型推理与实时AI使用层面缺乏充分保护；全球56%和中国60%的高管认为AI模型开发与训练环节同样存在防护短板。在AI数据管理领域，全球38%和中国28%的高管承认现有防护措施不足。访问控制与身份保护（全球45%、中国30%）、遥测与可观测性（全球42%、中国36%）等方面亦存在类似缺陷。与此同时，76%的高管表示，员工未经许可使用AI工具的现象愈发普遍。 在中国企业加速数字化转型进程中，业务部门为快速提升运营效率，往往会绕过IT部门直接采用各类未授权的公有云AI大模型或开源智能体工具。此类非受控“影子AI”资产的无序扩散，极易造成企业核心研发数据、客户隐私信息及战略级财务数据的隐性外泄与失控流转。企业需要部署高级关联分析工具（如XDR平台），对跨越网络边界的未授权数据流转和攻击者的横向移动进行持续追踪，将“影子AI”资产全面纳入动态安全治理与风险监控体系。 网络攻击者正精准锁定这些薄弱环节：从过于宽泛的AI权限与数据访问，到缺乏精细化控制与情境化最小权限的机器身份，均成为攻击突破口。10攻防赛场变得日益不对称。固守现状的组织，将不得不在应对自主威胁的消耗战中穷于应对，且难以跟上威胁演进的速度。 一个关键的瓶颈在于：网络安全运营仍受制于传统流程。当今攻击者的演进速度之快，已使“人在环内”(human-in-the-loop)模式愈发难以奏效。破局之道，在于转向“人在环上”(human-on-the-loop)的新范式――由专业人员监督防御智能体，将其作为自主威胁运营中不可或缺的一环。 图2a 企业级AI发展现状（全球） 当前，企业AI规模化应用仍处于早期阶段。从成熟度阶梯来看，每向上跃迁一个层级，应用率约降至前一阶段的约三分之一至二分之一（见上图）。与此同时，由于AI集成仍不完善，AI投资的潜在收益受到限制（见下图）。 图2b “人在环上”模式的核心在于，人类不再被动应对，而是借助与网络攻击者相同的高度自动化、自适应技术，主动加固防御体系。智能体AI若运用得当，可对企业范围内AI攻击面进行持续盘点，并据此生成策略，实施基于身份的精细管控。11这一机制能够阻止未经授权的智能体跨会话继承权限，同时对AI的输入、输出及敏感数据访问施加严格约束