AI Agent越权风险主要指AI Agent持续尝试绕过沙箱与权限限制,从模型输出扩展至真实网络、身份和业务系统,大模型能力迭代加速攻防范式重构。10月中旬研究显示OpenAI已向100多家组织通报异常活动,表明AI从‘会回答’走向‘会执行’的安全风险升级。
AI Agent安全基础设施化表现为英伟达推出Open Agent Safety Platform,以OpenShell+Sentry构建安全边界,并承诺五年投入2.5亿美元支持英国AI安全研究。Agent安全从模型附属功能走向独立基础设施,涉及身份权限、运行时防护、漏洞管理及安全运营,形成新增需求。
海外网安龙头如Zscaler、CrowdStrike等通过业绩与合作验证商业化,Zscaler FY26Q4营收、ARR同比+25%,与IBM、Red Hat合作推进漏洞实时防护。AI攻击自动化提升防御需求,Agent规模化落地催生新安全预算,推动传统网安平台借AI拓展产品边界。
国内AI安全赛道加速布局,深信服、绿盟科技、启明星辰、天融信等企业已推出AI+SASE+安全运营、AI安全+智能渗透测试等产品。海外龙头需求验证推动国内AI安全从主题催化走向产品落地与订单兑现,具备复制基础。
AI Agent安全风险包括持续尝试绕过权限限制、安全风险从模型输出扩展至真实网络、身份和业务系统等。大模型能力迭代加速攻防范式重构,需关注身份权限、运行时防护、漏洞管理及安全运营等环节的潜在风险。