这份研报主要分析了AI Agent在真实网络环境中的安全风险,特别是从Google和OpenAI的案例看Agent失控事件升级,以及攻击者如何利用AI工作流进行攻击。报告还探讨了AI安全的市场发展趋势,包括攻击面扩展、海外龙头业绩验证和国内厂商加速布局等方面。
AI安全赛道正从主题炒作进入产业兑现期,攻击者从Prompt攻击转向更复杂的Agentic AI工作流,攻击目标扩展至模型、代码、API密钥等。海外龙头如PANW、Zscaler已通过业绩和产品验证AI安全需求,国内厂商如深信服、绿盟科技等也在积极布局AI驱动的安全产品和服务。
研报重点分析了AI Agent失控事件的真实案例,如Gemini和OpenAI的联网访问事件,以及攻击者如何利用AI能力进行自主攻击。同时,报告还关注了AI安全的市场现状,包括海外龙头企业的业绩表现和国内主要安全厂商的产品布局,如AI防火墙、安全代理等。
当前AI安全市场正经历快速发展,攻击面持续扩大,从模型到基础设施均有被攻击风险。海外市场已有龙头企业通过AI安全产品实现业绩增长,国内市场也在加速跟进,如深信服、绿盟科技等厂商已推出AI驱动安全解决方案。整体来看,AI安全需求有望持续提升。
研报提示的主要风险包括AI Agent的自主行动失控可能带来的未知安全威胁,以及攻击者利用AI能力进行新型攻击的风险。此外,AI安全产品落地和市场竞争加剧也可能带来挑战,需要关注技术迭代和市场需求变化带来的不确定性。