2026 AI安全报告

核心观点

• AI成为网络攻击武器： AI已从辅助工具转变为自主执行者，参与攻击链路的每个阶段，大幅降低攻击门槛和成本。
• 攻击者获取AI能力的途径： 滥用商用大模型、部署自托管开源模型、购买专用恶意AI服务，其中滥用商用模型最为主流。
• AI在恶意软件开发中的应用： 从实验阶段进入实战，分为开发辅助模式和运行时调用模式，生成恶意软件的成熟度提升极快。
• AI作为实时攻击执行者： AI工具可承担入侵、漏洞利用、凭证窃取等任务，大幅提升攻击效率和隐蔽性。
• AI赋能的犯罪工具市场： AI工具、安全绕过方案、投放渠道被打包成整体产品售卖，降低攻击门槛。
• AI在漏洞研究中的应用： 加快了攻防双方的节奏，压缩了漏洞修复窗口，漏洞公开后几小时内就可能出现可用的利用代码。
• 针对AI的攻击： AI系统本身也成为攻击目标，攻击手法包括提示注入、配置滥用、运行时投毒等。
• 数字身份危机： AI可规模化伪造人类身份，语音、面容、证件、实时交互都能被伪造，导致远程身份核验变得越来越难。
• 数据泄露与企业AI暴露风险： 企业AI采用率大幅增长，高风险生成式AI提示词占比翻倍，数据泄露风险与AI落地相伴相生。
• AI安全框架： 面向AI的安全、AI赋能安全、AI协同安全，通过实时管控、威胁情报、暴露面管理等手段，提升AI安全防护能力。

关键数据

• 企业平均每月使用10款不同的AI应用。
• 单用户月均提示词数量，从2025年12月的56条，增长到2026年5月的70条。
• 高风险生成式AI提示词占比，从统计期初的2%，上升到期末的4%。
• 欧洲高风险提示词占比最高，为3.95%，约每25次交互出现1次。
• 商业服务行业风险率最高，几乎每17次AI交互，就有一次存在真实的敏感数据泄露风险。

研究结论

• AI正以前所未有的速度改变世界，AI安全领域也是如此，CISO需要重新评估现有的网络安全管控措施，将AI视为实时的攻击主体。
• CISO需要调整思路，不能再把身份可信当作默认前提，必须转向更难被AI伪造的方向进行身份验证。
• AI相关的数据暴露，应当被视为使用AI的持续性、常态化风险，需要持续监测AI的实际使用情况、落地清晰的策略、开展员工培训，部署实时管控工具。
• 能最大化发挥AI价值的企业，一定是让安全管控能力和AI应用同步成长的企业。