新兴技术研究自主AI：向自主系统的演进（下）：从输出到结果

新兴技术研究代理式AI：自主系统的演进：第二 研究所机构 部分 Senior Research Analyst,AI and Cybersecuritydimitri.zabelin@pitchbook.com德米特里·扎贝林 pbinstitutionalresearch@pitchbook.com 从产出到成果 2026年4月17日发布 彭博（PitchBook）是Morningstar公司旗下的一家企业，为在私募市场进行商业活动的专业人士提供最全面、最准确且难以获取的数据。 内容 关键要点 • 代理式人工智能的应用主要集中在结构化、高容量的工作流程中，这些工作流程的结果可衡量，特别是在IT、客户支持和市场推广职能领域。 • 治理、整合及组织准备是主要制约因素，信任与政策框架限制了企业更广泛的自主权。 • 随着模型日益商品化，系统成为差异化的主要来源，持久价值正转向工作流所有权、专有上下文和平台级控制。 引言 如系列第一部分所述，自主AI已进入部署阶段，其标志是从辅助工具向执行完整工作流的系统的结构性转变。这一转变正推动价值向编排和工作流所有权集中，同时加剧了平台型公司与应用层解决方案之间的分化。差异化正越来越多地由跨企业系统的集成能力以及提供一致、基于结果的性能能力所定义。 行业洞察 为从行业角度分析此问题，PitchBook 对代理式人工智能（agentic AI）领域的多家初创企业进行了访谈，以评估这些动态如何在实践中影响产品开发、部署和竞争定位。 隐藏层 克里斯·塞斯蒂托，HiddenLayer联合创始人兼首席执行官 在网络安全和机器学习运营的宏观范围内，哪些职能最接近有意义的代理式AI应用，哪些职能在结构上仍然受限？是什么导致了这种分化？ 最接近真正实现自主AI应用领域的，是安全运营，尤其是SOC工作流程。大量工作正投入将自主系统应用于告警分派和调查。 核心原因在于规模。即便更多人参与到安全运营中，警报的量已经超出了人类现实的处理能力。这是一个注意力分配的问题。大型云服务提供商已经使用自动化代理来对警报进行优先级排序，因为替代方案根本无法扩展。 使其成为强大代理式AI的契合点在于，分诊（triage）在很大程度上是一个映射问题。你从警报中获取信号，并根据上下文进行路由。在当今的许多情况下，代理式系统在准确性方面已经匹配甚至超越了人类分析师，因此，通过自动化并不会牺牲效能。 相比之下，那些需要更多判断力、协调性或责任感的领域仍然面临限制，这也是采用进程放缓的地方。 在哪些情况下，自主系统能够超越监控和威胁检测，进入主动的多步骤缓解和自动化安全执行工作流程，以及哪些技术、信任或治理障碍仍然限制了实践中更广泛的自主性？ 检测与响应是明确的起点。无论是网络、端点还是人工智能系统，代理式工作流都能将原本需要数天的工作压缩至数秒。它们能够检测攻击、评估攻击，并根据预定义的阈值和行为做出响应。 关键在于定制化。这些系统需要根据具体情境、风险承受能力和威胁类型进行配置，以实现不同的行为。正是这种灵活性使得能够采取更主动、多步骤的应对措施。 有趣之处在于使用AI进行安全防护与保护AI本身之间的区别。像Vectra AI或7AI这样的公司正在使用AI来保护数据基础设施。而HiddenLayer则专注于保护AI模型本身。这完全是另一类问题。 实际上，限制更广泛部署的并非技术本身，而是组织和监管层面的问题。联邦层面的监管尚未跟上自主型人工智能的发展，目前还没有明确的治理框架。虽然一些公司正积极行动，但许多公司仍持谨慎态度。 因此，瓶颈问题与其说是能力不足，不如说是信任问题。即使技术已经成熟，企业也仍然犹豫是否完全放手控制权。 根据您的经验，在规模化构建代理模型安全系统方面，竞争对手最难以复制的是什么？ 最大的不同点在于深度研发投入。 全球真正对抗性人工智能专家的储备非常有限，可能只有几百人，而非数千人。HiddenLayer公司已在该领域投入大量资源，并将绝大部分资本用于研发。 正是那级别的投资，让他们得以在极快速变化的市场中保持领先。诸如提示注入（prompt injection）等新的威胁类别正迅速涌现，而防御这些威胁需要持续不断的迭代更新。 如果你不持续且大量地投入研发，你根本就无法保持领先。这就是你的护城河所在。 随着代理式人工智能（AI）越来越深入地嵌入安全开发和运维工作流程中，您预计随着时间的推移，持久的价值将如何累积？ DevSecOps很可能将是价值最持久的地方。 目前，大量的人工智能推理与代码辅助紧密相关，这也是开发者投入精力之处。因此，优先事项在于在不影响效率的前提下，支持这些工作流程，同时仍需防范数据中毒或提示注入等风险。 能够无缝融入开发者工作流、不增加额外负担的安全团队将胜出。 与此同时，模型本身也存在一个更广泛的问题。像OpenAI或Anthropic这样的主要模型开发者提供的约束机制仍然相对较弱。模型常常难以区分政策与提示。 也存在一种固有的权衡。一个模型越具有对抗鲁棒性，它对性能或可用性的影响就越大。这种张力将决定价值在整个技术栈中的积累点。 哈维 在广义的法律行业内部，哪些业务领域最接近于有意义的智能代理（AI）应用，哪些则仍然受到结构性限制？是什么制度或经济因素导致了这种分化？ 我们正目睹相当广泛的采用和变革。一个突出的领域是基金设立，正如你们可以从我们上个月在哈维论坛上分享的演示中看到的那样。在这个领域，速度至关重要，但您不能牺牲质量、隐私和安全，因此，这正是一个非常适合采用代理式AI的用例。 另一个领域是与内部团队相关，这些团队用于调查、合规或并购工作流程等场景，其中需要大量内部协作（例如财务、人力资源和安全部门之间），但也需要与外部律师进行外部信息共享。针对此类事务采用具有自主性的工作流程，可以显著减少任务所花费的时间，让人们有更多时间专注于项目的战略和影响，而不是涉及到的日常任务。 当今，在哪些方面，人工智能（AI）在有意义地超越传统法律研究或起草工具？以及哪些局限性仍然阻碍其在高风险法律工作流程中全面拥有任务所有权？ 我们实际上将此数据作为“大律所基准”（Big Law Bench）系列的一部分，向客户和潜在客户透明共享。这有两个原因：首先，我们希望人们在就法律人工智能做出明智决策时，能够拥有尽可能多的数据和背景信息。其次，Harvey提供了一个模型选择器，让客户可以选择使用的模型，因此提供数据让他们能够针对他们关心的领域，以Harvey的最高效能来使用。 在您的看法中，对于律师事务所构建代理系统（无论是技术能力、工作流整合、领域深度，还是其他方面），哪些方面已被证明是最难被竞争对手复制的？ 我认为这里有三个关键因素。首先是安全、治理和数据隐私。这真的很难建立并且做对，但法务团队不仅仅是在保护自己的数据。他们通常是在保护客户的数据，所以风险更高，这使得这项投资具有至关重要的意义。第二是合作伙伴关系。我们与LexisNexis、Intapp、iManage、Box等许多其他公司有集成，并且我们与OpenAI、Anthropic、Microsoft以及其他关键合作伙伴建立了合作关系，这些是法务团队所依赖的。这些关系不仅为Harvey的使用提供了有益的输入，也帮助实现实质性 建立对哈维能够整合其团队日常依赖的工具的信任。第三，拥有一支业内顶尖的律师团队与业内顶尖的工程、产品及设计团队共同打造产品。你需要方程式的两边才能做好这件事，我们很幸运地拥有前律师、工程师、设计师和研究人员通力合作，共同为律师打造一个业内顶尖的操作系统。 未来几年，您预计法律人工智能的持久价值将体现在哪些方面：模型性能、专有法律数据、企业内部工作流程整合，还是通过主要平台进行分销？ 模型将持续改进。这其实已经每周都在发生了。所以模型性能的提升是理所当然的。我认为持久的价值在于三个领域： • 作为法律工作的真正操作系统，拥有代表律师行事的代理程序 • 能够在一个组织内部以及外部安全地协作（这比人们意识到的要困难得多，因为存在道德壁垒和数据隐私问题） • 根据您所看到的与第二项相关的网络效应进行分发 作家 安德鲁·米勒（Andrew Miller），WRITER公司高级总监，产品营销负责人 在企业内容创作和知识工作流程的宏观范围内，哪些领域最接近有意义的智能体AI应用，哪些领域在结构上仍然受限？是什么导致了这种分化？ 在自主AI应用上的分歧并非技术层面的问题，而是组织层面的问题。正如我们的CEO梅·哈比布最近所说，“信任而非技术”才是真正的障碍。企业正对AI代理产生免疫反应。领导者感到失去控制权。员工不信任非人类队友做出自主决策。治理系统将代理归类为威胁，因为它们不符合旧规则。取得实质性进展的领域有三个共同特征：可衡量的成果、可重复的工作流程和清晰的治理框架。进展受限的领域则缺少其中一项或多项。 什么在起作用： • 品牌营销内容和活动启动：Vodafone UK 每周减少了 20 小时的手动横幅制作时间，并将活动周期从两周缩短至三天。VOIS 将文案撰写时间缩短了 50%，同时将搜索排名提升了 30%。这些都不是副驾驶。它们是执行完整端到端流程的代理。 • 人工智能发现优化：沃达丰构建了一个地理定位代理（GEO agent），该代理可自主优化内容，以支持人工智能辅助的搜索平台。商业案例：传统的搜索引擎优化（SEO）正变得过时，通过人工智能平台的客户搜索量在12个月内增长了9倍（从5亿增长至40亿）。 • 符合合规要求的內容制作与审核：SCAN Health和Medisolv正使用代理机构进行合规会员沟通和报告生成，这些代理机构内置了监管框架。结构化的输出结果与清晰的合规规则使成功变得可衡量。 什么是受限的： • 跨部门工作流程受到部门壁垒的阻碍。当各部门在共享治理和内部系统及数据访问方面不合作时，代理人就无法协调端到端流程。我们2025年采用报告（对1,600名全球高管和知识工作者进行了调查）支持了这一点： - 42%的人表示人工智能的采用正在“撕裂他们的公司”。- 68%的人表示它造成了部门之间的紧张关系。 • 最终审批流程仍然顽固地依赖人工。沃达丰团队表示：“你永远不可能将人工从最终版本审核中移除，因为这对专业性和质量至关重要。”组织尚未完全信任人工智能来进行品牌关键决策，因此他们保留人工审核作为安全网。随着时间的推移，这种情况将逐渐演变，特别是在风险较低的工作中，错误成本是可控的。 • 战略规划和创意构思仍然是增强型任务，而非委派型机会。其制约因素在于，组织尚未以可衡量的方式定义战略思考的“良好”标准。缺乏明确的成功指标，他们便依赖人为判断。 哪些能动系统可以超越草稿辅助，实现跨内容创作、编辑、合规和分发等全流程工作主导权，以及哪些组织或治理障碍仍然限制了更广泛的自主性？ 完整的业务流程所有权的证据已经投入生产。只是分布不均。领导者和落后者之间的差距并非能力问题；而是组织架构和治理成熟度的问题。正如我们的CMO迭戈·洛曼托所说：“大多数团队自动化是为了做得更多。最优秀的团队自动化是为了做不同的事。” 代理可以拥有工作流。但限制在于，组织是否具备治理成熟度和风险承受能力来允许他们这样做。 使其成为可能的是： 沃达丰的关键洞察：“从一开始就将治理融入系统，而不是后期附加。” 实现完整工作流所有权的组织，始于治理架构——权限控制、审计追踪、监督工具——将其作为基础要求。 根据您的经验，在构建企业级自主内容系统方面，无论是专有数据基础、治理层、工作流集成，还是其他方面，哪些方面已被证明是竞争对手最难复制的？ 这不仅仅是一个个单独的部件，而是一个集成系统。 治理架构最难复制，因为它无法进行事后改造： • WRITER自始至终构建合规体系：ISO/IEC 27001、27701、42001、SOC 2 Type II及HIPAA。• 12-18个月的认证时间线构建了市场