智能体是简单部分：智能体银行参考架构

核心观点与关键数据

• 自主AI的瓶颈：当前自主AI的瓶颈并非模型本身，而是围绕模型构建的可靠性系统。银行需要明确授权分配，包括访问、审批、执行和证据规则。

• 关键设计选择：报告阐述了七个在生产中重要的设计选择，以确保自主AI的可靠性：

  1. 从差距入手，提出正确的问题：银行应关注AI的授权委托问题，而非仅仅追求更聪明的代理。自主AI需要明确的规则和边界，以避免错误带来的重大损害。
  2. 将架构置于一张图中：建议采用“概率核心，位于确定性边界之内”的架构。模型负责推理和提供建议，而确定性边界内的代码负责决策、执行、验证和记录。
  3. 从头到尾听完一个电话：架构必须能够处理复杂且充满同情心的客户沟通，例如违背承诺或特殊情况，以确保系统的有效性。
  4. 安全缩放：代理方提议；系统执行：通过“代理提议，人工确认”模式，逐步扩大AI的自主性。可逆的低风险操作可自行运行，而不可逆的面向客户操作则需人工批准。
  5. 保护经济：将常规工作与模型隔离：将规则和常规的机器学习用于简单操作，而将模型用于需要推理的步骤。优先使用小型模型，并根据任务需求进行路由，以降低成本。
  6. 在扩大规模之前做出管理决策：架构由五个管理决策决定：集中管理哪些控制、谁对每个决定负责、哪些决定必须保持确定性、银行应该拥有哪些组件、哪些应该租用、每个数据信号必须多新鲜。
  7. 针对疑难情况的设计：人类监督应属于系统架构之中，并采用分级管理。评估应关注过程而非仅仅结果，并建立故障修复路径。

• 关键数据：

  • 高德纳预计，到2027年底，超过40%的自主AI项目将被取消。
  • 麻省理工学院2025年对企业生成式AI的研究发现，仅有约5%的集成试点产生了可衡量的盈利影响。
  • 在广受引用的长期基准WebArena上，那个时期最强的GPT-4代理仅完成了约七分之一任务，而人类完成了四分之三。
  • RouteLLM评估报告显示，在选定的基准测试上，成本可降低高达85%，同时保留约95%的GPT-4性能。
  • 在Anthropic的研究系统中，智能体运行使用的token数量大约是聊天交互的四倍，而多智能体运行使用的token数量大约是十五倍。

研究结论

• 自主AI的成功关键：自主AI的成功关键在于构建可靠的系统，而非仅仅依赖于强大的模型。银行需要明确授权分配，建立确定性边界，并实施有效的监督机制。
• 架构设计原则：建议采用“概率核心，位于确定性边界之内”的架构，并根据任务需求选择合适的引擎。优先使用小型模型，并根据任务需求进行路由，以降低成本。
• 管理决策：架构由五个管理决策决定，包括集中管理哪些控制、谁对每个决定负责、哪些决定必须保持确定性、银行应该拥有哪些组件、哪些应该租用、每个数据信号必须多新鲜。
• 监督机制：人类监督应属于系统架构之中，并采用分级管理。评估应关注过程而非仅仅结果，并建立故障修复路径。
• 未来展望：自主AI的未来发展依赖于对模型周围控件的掌握，以及建立为后续扩展所需的功能。通过掌握剩余的复杂部分，银行才能获得真正的竞争优势。