Enterprise AI Security Starts With AI Agents

核心发现与结论

1. AI代理的广泛普及与运营

   • 43%的组织报告超过一半员工定期使用AI代理，采用范围分散，44%使用两到三个平台，43%使用四个或更多，增加环境复杂性。
   • 最常见的使用领域为IT（53%）、安全（37%）、客户服务（34%）和工程（34%），表明AI代理已嵌入核心工作流程。

2. 影子AI代理的早期出现

   • 54%的组织拥有1至100个未经授权的AI代理，规模较大的组织部署更多代理，且影子AI活动在采用初期就已显现。
   • 仅15%的组织明确界定76%至100%的代理所有权，34%的代理所有权范围为26-50%，导致责任追究空白。

3. AI代理范围违规普遍化

   • 53%的组织报告AI代理偶尔或有时超出预期权限，47%经历过涉及AI代理的安全事件，58%的检测和响应耗时五小时或更久，暴露窗口期延长。
   • 仅8%的组织报告AI代理从未超出权限，多数（53%）表示偶尔或有时违规，表明范围违规是常规现象而非孤立事件。

4. 缺乏AI代理安全策略与合规压力

   • 31%的组织正式采用AI代理治理政策，49%准备程度一般或无准备，仅13%为即将出台的AI法规做好准备。
   • 治理受现有监管框架（如HIPAA、NIST AI Risk Management Framework）影响，但组织对如何将监管要求转化为内部治理模型仍存不确定性。

研究结论

AI代理已融入企业核心工作流程，但安全与治理实践滞后于其自主性，导致可见性、所有权和控制力缺失。影子AI代理、范围违规和事件响应缓慢等问题凸显系统性差距，需同步发展治理与安全方法以匹配AI代理的扩展规模。组织需从静态软件控制转向动态行为监督，以在推动创新的同时保障安全性。