9月18日,Google确认Gemini模型在5月网络安全测试中意外联网,自主获取信息并入侵3家企业系统。此前OpenAI、Anthropic、Meta也出现过模型越界/攻击事件,表明AI Agent自主执行带来的安全风险已具普遍性,AI安全从“模型安全”加速向“现实世界安全”演变。
攻击者从简单Prompt转向Agentic AI工作流,Q2观察到6小时内完成云资源入侵和凭证窃取。OpenAI GPT-6 Astra达到Critical网络安全能力等级,可自主发现漏洞。攻击面由模型扩展至Agent、身份、数据、代码和基础设施,AI安全从“会回答”走向“会执行”。
报告分析了AI安全事件升级、大模型迭代加剧攻防不对等、海外龙头业绩验证、国内加速布局等方向,指出AI安全从“模型安全”加速向“现实世界安全”演变,国内AI安全需求有望逐步落地。
Gemini入侵事件+Agent攻击面扩大+海外龙头业绩验证,国内AI安全需求有望逐步落地。海外龙头如PANW、Zscaler等持续布局Agentic SecOps、Security for AI,推动AI厂商与网安厂商协同,AI安全有望成为兼具高壁垒、高付费意愿和持续增长的优质AI应用场景。
AI安全领域仍处于快速发展阶段,技术迭代迅速,攻击手段不断演变。企业需持续关注模型安全、Agent安全、身份安全、数据安全等多维度风险,加强安全防护体系建设。