Enterprise AI Security Starts With AI Agents

致谢 主要作者 希拉里·巴伦 贡献者 玛丽娜·布雷戈库 Josh·布克 Ryan·吉福德 设计 Stephen Lumpe 斯蒂芬·卢姆佩Stephen Smith 斯蒂芬·史密斯 关于赞助商 Zenity 是专为 AI 代理构建的首个安全与治理平台，覆盖 SaaS、自研平台（云）和终端用户设备（端点）。该平台深受财富 500 企业的信赖，通过提供全生命周期覆盖的纵深防御，帮助安全团队自信地采用 AI，从代理发现和姿态管理到实时检测、内联防护和响应。Zenity 以代理为中心，优先考虑代理的行为、访问内容以及调用的工具，消除盲点，并在各环境中执行一致的政策和控制，使组织能够在不牺牲安全的前提下创新 AI 应用。了解更多信息请访问zenity.io. 目录 致谢........................................................................................................................................................3目录.........................................................................................................................................................4执行摘要.....................................................................................................................................................5核心要点................................................................................................................................................................6主要发现..................................................................................................................................................................7主要发现 1：AI 代理的采用已在各组织中广泛普及并投入运营....................................................................................7主要发现 2：影子 AI 代理正在早期出现....................................................................................9主要发现 3：AI 代理范围违规正变得普遍化....................................................................................11主要发现 4：缺乏 AI 代理安全策略时，合规将成为默认选择........................................................................13结论................................................................................................................................................................... 15完整结果...................................................................................................................................................................16采用与使用情况............................................................................................................................................16安全与风险................................................................................................................................................. 18治理与合规性...........................................................................................................................20架构.........................................................................................................................................................23未来展望.........................................................................................................................................................25人口统计特征............................................................................................................................................................27调查方法.................................................................................................................................................29研究目标............................................................................................................................................. 29 执行摘要 与人工智能代理相关的风险已不再是理论上的。调查发现，自主系统在日常工作中已超出预期权限、在预期范围外运行。在许多环境中，这些行为至少偶尔会发生，表明范围违规并非孤立事件，而是一种常规的运行状况。近半数组织报告称经历过涉及人工智能代理的安全事件，且当事件发生时，检测和响应通常需要数小时甚至数天，而非数分钟，从而扩大了互联系统中的潜在暴露窗口。这些模式表明，造成实质性暴露并非源于假设性的未来采用，而是由于自主系统已实现规模化运行——通常是在实时代理清单、持续运行时授权控制和全面行动可追溯性仍需成熟的环境中。 关键发现1：AI代理的采用已在各组织中广泛普及并投入运营。 关键发现3：AI代理范围违规是一种常见的运行状态。 人工智能代理已日常被大量劳动力使用，43%的组织报告称，超过一半的员工定期使用人工智能代理。采用情况很少集中：只有5%使用单一代理平台，而44%使用两到三个平台，43%使用四个或更多平台，这增加了环境复杂性。 范围违规现象很普遍而非罕见，53% 的组织报告称AI 代理偶尔或有时会超出预期权限。这些行为会产生实际影响：47% 的报告涉及涉及 AI 代理的安全事件，58% 指出检测和响应耗时五小时或更久，从而延长了暴露窗口期。 关键发现4：缺乏AI代理安全策略，合规将成为默认选项。 关键发现2：影子人工智能代理正在早期出现。 未经授权的AI代理在采用初期就出现，54%的组织报告称拥有1至100个未经授权的AI代理，即便整体代理数量仍然相对较少。所有权往往不明确：只有15%的报告称76%至100%的代理具有明确定义的所有权，而最常见的所有权范围是26%至50%（占34%），这导致在发生事件时出现责任追究空白。 治理深受现有监管框架的影响，然而，仅有13%的组织表示已为即将出台的AI相关法规做好了充分准备，这凸显了合规性对齐与运营准备度之间的差距。 外卖 人工智能代理已作为企业数字化工作队伍的一部分在运行，但安全和治理实践尚未完全适应其自主性。采用速度已超过可见性、所有权和控制力，导致无意行为正变得操作上常态化而非异常。应对这些挑战将需要为自主系统量身定制的治理和安全方法，这些方法应与采用规模同步扩展。对于安全领导者而言，这些发现表明需要进行结构性转变：有效的风险面正越来越多地由基础设施和访问权限定义，同时也由自主行为和行动定义。 关键发现 人工智能代理正迅速成为企业运作的有机组成部分，重塑着工作执行方式、决策制定过程以及系统间的交互模式。自主系统在可见性、控制力与问责制方面引入了新的动态，对传统的安全与治理模式构成了挑战。对于那些既要管理风险又要推动规模化创新的组织领导者而言，理解各组织如何应对这一转型以及哪些环节存在空白至关重要。 关键发现1： 人工智能代理的采用已在各组织中广泛普及并投入运营 人工智能代理在跨多个垂直领域的众多组织中已达到有意义的规模。相当一部分受访者表示，人工智能代理是大量员工日常工作的组成部分，43%的人报告说，他们组织中超过一半的员工经常使用AI代理。最常见的使用范围落在26-50%的员工之间（占30%），其次是51-75%（占24%）。这种模式反映出采用范围已远超孤立的使用案例，表明AI代理正日益嵌入生产工作流程，而非局限于早期实验。 随着收养（或：采用）变得更加实际化，AI代理的部署方式带来了额外的安全考量。大多数组织跨多个AI代理平台运作，而非单一、集中的环境：43% 的组织使用四个或更多平台，44% 使用两个或三个，只有 5% 报告使用一个。在多平台环境中，应用政策可能更加困难。 始终如一地保持对代理行为的统一可见性，并以标准化的方式收集遥测数据或审计证据。虽然执行效果没有直接衡量，但碎片化平台环境的普遍性表明，在采用生命周期的早期，安全和治理工作必须应对日益增加的复杂性。 随着劳动力使用的扩展，AI代理的应用也扩展到广泛的组织职能中。 使用率报告最多的是IT领域（53%），其次是安全领域（37%）、客户服务（34%）和工程领域（34%）。在技术和客户服务职能中都存在AI代理，这表明其应用并不仅限于创新团队。 这一模式总体反映了这样一个环境：AI代理已经融入了跨职能的日常工作。广泛的劳动力 使用和跨职能部署表明，AI代理不再仅仅是外围工具；它们已嵌入到核心工作流程中。这种扩展不仅代表技术多样化，也意味着自主决策系统在与敏感数据和工具交互方面的增加。随着代理的持续采用，有效的安全边界正越来越多地从