新兴技术研究自主AI：向自主系统的演进（下）：从输出到结果

核心观点

• Agentic AI 应用集中领域：Agentic AI 主要应用于结构化、高容量工作流，且结果可衡量的领域，尤其在 IT、客户支持和市场推广方面。例如，安全运营中心（SOC）工作流中的告警分类和调查，以及法律行业的基金组合和内部团队工作流。
• 主要限制因素：治理、集成和组织准备是主要限制因素，信任和政策框架限制了更广泛的企业自主性。企业对 AI 代理的免疫反应源于对失去控制的担忧，员工不信任非人类团队成员做出自主决策，治理系统将代理视为威胁。
• 持久价值转移：随着模型趋于同质化，持久价值正从模型本身转向工作流所有权、专有上下文和平台级控制。

行业洞察

• 安全运营：安全运营中心（SOC）工作流是 Agentic AI 最接近实际应用的领域，因为其工作量大且需要专业知识。代理可以执行完整的调查和响应工作流，但自主性扩展仍受制于治理和操作风险。
• 法律行业：法律行业在基金组合和内部团队工作流方面采用 Agentic AI 较快。法律团队需要保护自身数据和客户数据，因此对安全、治理和数据隐私的要求很高。
• 企业内容创作：企业内容创作和知识工作流中，Agentic AI 在品牌营销内容、AI 发现优化和合规内容生产等方面表现突出。跨职能工作流、最终审批流程和战略规划仍受制于组织障碍。
• 客户体验和支持：高容量、数字化原生支持环境是 Agentic AI 应用最接近实际的领域，例如电子商务、订阅服务、金融科技服务、电信和 SaaS 支持。医疗保健、保险、复杂 B2B 账户管理和涉及法律、财务或声誉风险的上诉是应用受限的领域。
• 网络安全：SOC 工作流是网络安全中 Agentic AI 应用最快的领域，代理可以执行完整的调查和响应工作流。自主性扩展仍受制于信任和可解释性。
• 病理学和诊断：病理学和诊断领域中最快的应用是已经拥有数字基础设施并存在明确问题的领域，例如生物制药领域的研究效率提升和高容量临床实验室的效率提升。数字基础设施不完善的领域仍受制于工作流集成。
• 公共股票研究和财富顾问：数字优先经纪和零售平台在 Agentic AI 应用方面处于领先地位，因为它们不受大型机构遗留流程的阻碍。大型银行和金融机构受制于复杂的遗留系统和合规要求。
• 企业安全：电子邮件安全是应用最接近实际的领域，因为电子邮件具有高容量、高信号和良好的决策空间。代理可以执行“检测-验证-修复-验证”管道，但自主性扩展仍受制于操作和信任障碍。
• 初级保健和数字医疗保健：操作工作流是 Agentic AI 应用最快的领域，例如患者管理运营、临床文档、EHR 记录保存、收入周期任务和某些成像领域。直接患者诊断和治疗仍受制于临床风险、数据结构化和现有护理交付和报销模式。
• 外向型销售和收入运营：具有清晰数据输入、可衡量输出和高迭代循环的工作流是 Agentic AI 应用最接近实际的领域，例如潜在客户研究、线索来源、电子邮件文案、序列执行和可交付性管理。需要真实关系判断的领域仍受制于结构限制。
• 自主系统（机器人）：可重复检查/映射和快速响应工作流是 Agentic AI 应用最接近实际的领域，因为这些领域可以紧密指定任务意图、自主执行和可用输出。需要开放世界自主性或在混合空域进行大规模操作的领域仍受制于保证和监管。
• 数据安全和数据丢失防护：安全自动化工具通常依赖于遗留规则架构，而 Agentic AI 需要从零开始重新思考架构。访问有意义的上下文和企业管理层对 AI 的信任是主要限制因素。

研究结论

• 模型能力不再是主要瓶颈：成功的部署特征在于深度工作流集成、明确定义的政策框架以及能够在碎片化系统中运行的能力。Agentic AI 正越来越多地部署为嵌入式运营层，而不是独立应用程序。
• 信任是一个工程问题：扩展自主性的关键要求包括决策路径的可解释性、审计追踪、置信阈值以及关键在于操作可逆性。电子邮件安全、告警分类和外出采购是进展较快的领域，而网络执行、临床决策或金融执行则进展较慢。
• 持久价值正在转向系统：防御能力始终与专有上下文、工作流集成、数据反馈循环和平台级控制相关联。控制编排和流程执行的公司能够捕获长期价值，而较窄的应用则面临越来越大的压力，必须嵌入到更广泛的平台中，否则面临整合风险。
• Agentic AI 正在从软件类别演变为组织基础设施：竞争动态与 SaaS 类似，更好的产品可以相对快速地取代现有产品，而不是像 ERP 那样，深度运营嵌入创造了可以逐年复合的持久优势。下一阶段将不是由哪个模型最强大来定义，而是由哪个系统最值得信赖、最深度集成、最难移除来定义。