商业，迎接代理AI时代

商业，遇见智能体AI 信心在自主 和自主性系统 前言 在Capgemini的AI未来实验室，我们研究人工智能的进步以及这些进步将对世界产生的意义。这是一项引人入胜且令人敬畏的工作，我们每天都面临着来自地平线的惊人可能性，但自主和能动系统的潜在意义无与伦比。我们对此感到兴奋的原因并不是因为它背后的技术或所使用的任何特定人工智能模型，而是因为它从根本上改变了我们与技术的关系。 代理系统和自主系统具有变革性的原因在于，它们允许技术用户从定义解决方案转变为仅仅陈述他们的问题。 在整个计算机历史中，如果我们想让计算机做某事，就需要详细描述如何解决该问题，要么自己编程，要么依赖那些能够做到这一点的大师。从定义上来说，这是一个排他性的安排，只有那些懂技术的人才能从中获得最大利益。自主和智能型人工智能的时代为我们展现了一个未来的新愿景，在这个时代，技术的用户可以命令技术去解决他们自己不知道如何解决的问题。这就是科幻一直承诺的那种人工智能版本，任何人都可以驾驭人工智能的全部力量。 2自主和能动系统的信心 罗伯特·恩格斯 人工智能未来实验室负责人 robert.engels@capgemini.com 马克·罗伯茨 人工智能未来实验室副主任 mark.roberts@capgemini.com 执行摘要 当今的技术格局正在快速变化。能够自主决策并采取行动的自主和代理式AI系统正变得越来越重要。这些系统不只是微小的进步；它们代表了人与技术互动和体验方式的重大转变。 自主性是一种变革。通过允许自主和人工智能代理采取行动，我们解锁了惊人的新机遇，但这并非没有风险。 这份白皮书基于我们的2024年版《释放信心》 对自主和代理的信心在AI。 系统审视自主人工智能系统如何改变我们对人工智能的理解。虽然许多基本思想仍然相同，但自主性带来了新的挑战，需要新的视角。 在这个自主AI系统与人类社会互动和共存的新时代，确保AI可靠并满足人类期望至关重要。这份白皮书扩展了这些类别，以应对自主和能动性AI系统的特殊需求。 3自主和主动性系统的信心 表 内容 05 多机构协作之旅 18 世界模型：智能体如何理解其环境 07 理解代理属性 20 目的与对齐 14 使系统自主 16 智能体景观中的LLMs 22 整合所有内容 27 结论 4自主和能动系统的信心 自动化 多机构协作之旅 自动驾驶 多智能体系统 图表 聊天机器人 副驾驶 积分 自主人工智能系统早在当今人工智能热潮之前就已存在。多年来，具有不同独立性和集成程度的系统逐渐发展。了解这段历史有助于我们认识到当今进步的全部重要性。 5I自主和能动系统的信任 尽管自主型人工智能时代始于50年前，但表现出有限独立性和集成性的简单聊天机器人的发展已将这项技术带入近期关注焦点。这些基础系统，类似于早期的网站帮助工具，能力有限且仅能访问其使用的模型中已包含的信息。 随着集成度的提高，副驾驶系统应运而生。这些更高级的工具可以访问和解释多个系统中的数据，提供更有帮助的协助。然而，大多数情况下，这些系统仅提供建议，无法自行行动。 下一步是自动驾驶系统。这些工具具有足够的独立性来执行特定操作，但缺乏处理整个流程所需的整体集成能力。这些系统突出了让机器独立行动的价值。 今天，我们看到了结合高度独立性和集成性的多智能体AI系统。这些先进的系统可以创造巨大价值，但需要仔细的监督和风险管理。从单一AI智能体到多个AI智能体协同工作的系统，标志着这项技术在能力和复杂性上的根本性转变。 这段历史表明了一个重要的事实：从单个代理到多代理系统的转变并不仅仅是拥有更多代理 ；当多个代理在共享环境中协同工作时，它关乎创建具有全新属性和涌现行为的新系统。 6自主和能动系统的信心 理解代理属性 什么使某物成为一个代理？ 智能体是现代人工智能讨论的核心，像“智能体”和“主动性”这样的术语随处可见，并且经常具有不同的含义。尽管这些概念最近很受欢迎，但它们在计算机科学中有着深厚的根基和明确的定义。 自然地，不同领域关注智能体的不同方面。商业视角通常关注智能体能够完成什么以及它们如何影响组织。技术定义通常关注智能体能够做什么以及它们如何运作。弥合这些观点需要一种对每个人都讲得通的明确定义 。 明确我们所指的“代理”的含义非常重要。因为不同的定义使得有效地沟通这些系统变得困难 。为了构建能够良好协作的互联代理生态系统 ，建立共同的理解是至关重要的。 在其核心，一个代理是指代表另一个实体工作的任何实体，无论是另一个代理、人类，甚至可能是其他生物。 一个代理是任何代表另一个实体工作的实体，它通过使用专业能力来工作以实现高级目标。代理 自主性有程度和 授权方采取行动to那改变他们的世界。 这突显了一个关键区别：行动能力是使某物成为代理体的关键。一个AI系统可能会提供复杂分析和建议，但如果它不能自主执行行动，它就是一个助手或副驾驶，而不是代理体。需要注意的是，代理体不一定要使用人工智能。许多非AI系统都是代理体，从简单的恒温器到您汽车的驾驶辅助系统再到复杂的工业控制系统 。类似地，许多AI代理体也缺乏成为代理体所需的行为能力。 7自主和能动系统的信任 智能体系统围绕3个主要方面（或视图）构建： 代理视角：自主性、能动性、权力有多大 系统视角：代理在其中运作的系统属性是什么有效载荷视角：具备哪些能力 在接下来的章节中，我们将为分析、设计和管理不同情境和应用中的自主AI系统打下基础。 代理视角：自主性、权力和能动性 Autonomy 衡量实体独立程度的指标做选择 Authority 指特定的范围或限制 一个实体可以采取动作的 Agency 指实体具有某项能力的程度对那些选择采取行动 8自主和主动性系统的信心 有三種相關概念定義了智能體能夠做什麼，每種代表能力的一個不同方面： 自主性描述了一个实体可以在没有外部指导下独立做出决定的程度。自主系统评估情况、创建选项并选择行动，而不需要人类介入。 需要记住的是，这些属性是设计选择，而非内在的系统属性。在设计了代理系统时，关于自主性、能动性和权限的适当级别的决策是基于预期功能、风险考量以及监督要求的 。这些刻意的选择塑造了代理能做什么、有什么限制以及有多有效。这三个维度共同提供了一个系统评估代理能力和风险的框架。具有高自主性、能动性和权限的代理可能会带来巨大价值，但也可能带来重大风险，需要仔细监督。最佳的配置完全取决于代理使用的具体环境、目标和风险容忍度。 代理描述了一个实体通过采取影响其环境的行动来执行这些决策的能力。能动性是在做出决策和创造结果之间的联系。 authority定义了一个实体被允许执行的操作。权限为代理的行为设定了边界。 将人类社会作为AI系统的类比 与其说是二元属性，这些属性存在于滑动尺度上 。例如，考虑一个标准的恒温器：它具有高度的自主性（独立决定何时开启供暖），高度的能动性（直接控制供暖系统），但权限有限（只能在狭窄的范围内做一件事）。这个例子展示了自主性、能动性和权限如何根据智能体的目的和设计以不同的方式结合。 决定适当的自主性和能动性并非人工智能系统的独有特征。人类社会已经发展出精细的框架 ，用于将权力委托给不同的专业代理人，为人工智能系统的设计提供了有用的模型。例如，我们的社会建构，如政府和委员会，都包含制衡机制，以确保自主性、能动性和权力根据其带来的风险进行规范。 9自主和能动系统信任 恒温器 房产中介 旅行代理 保险代理人 体育经纪人 秘密特工 Agency 理解我们如何授予人类代理人权限，为人工智能治理提供了宝贵的见解。房地产、旅游和保险代理人是一些常见的例子，它们展示了权限是如何根据风险、专业知识和信任要求进行仔细校准的。 通过极端例子来看，体育经纪人代理权高但自主权受限——只有在客户明确授权时才能谈判合同。相反地，情报人员自主权高代理权也高，接受广泛的任务目标而几乎完全掌握方法和执行方面的自由裁量权 。 房地产经纪人拥有高度自主权来推广房产，但在最终价格谈判和合同条款方面权限有限 。旅游经纪人通常拥有在指定范围内进行预订的权限，但通常缺乏未经明确批准就进行重大行程更改的权限。保险经纪人由于其专业知识以及保险产品的复杂性，通常拥有更大的权限和自主权。 这些例子突出了一个基本原则：我们给予代理人的自主性和能动性取决于目的、风险和信任 。同样的原则适用于人工智能。系统将在其设计者设定的边界内运行，优化其被分配的目标 。仔细考虑这些边界是负责任系统设计的重要组成部分。 Autonomy 10自主和能动系统的信心 系统视图：协调多个智能体 虽然单个智能体在许多情况下可以提供显著价值，但智能体方法的全部潜力是通过多智能体系统体现的——智能体协调组在共享环境中运行。从孤立智能体到集成系统的转变带来了新的复杂性维度、能力维度和治理要求。 交互以及清晰定义的信息流。复杂系统涉及错综复杂的相互依存关系、反馈回路和涌现行为，这些行为不能仅通过观察单个智能体就轻易预测。复杂性既带来了增强的能力，也带来了治理挑战，需要复杂的监控和监督机制。 一个多智能体系统（MAS）由多个独立智能体组成，它们在一个共同的环境中运行，协同工作以实现任何单个智能体都无法完成的共同目标。这些系统有时被称为智能体架构或框架，代表了自主系统开发的尖端。 小型与大型：一个系统中的代理数量强烈影响着它的运行方式。拥有代理的小型系统通常表现出更可预测的行为和更简单的治理需求。拥有大量代理的大型系统提供了增强的功能和扩展到更大挑战的能力，但同时也引入了协调挑战、涌现行为和治理复杂性，这些需要在设计、监控和控制方面采用专门方法来应对。 多智能体系统的四个关键维度 构建多智能体系统的能力、行为和治理要求有四个关键维度： 异质性vs.同质性: Simple Complex Small Large Homogeneous Heterogeneous Centralized Decentralized 系统组成从由相似代理组成的同质集合（通常称为群体）到具有独特能力的专业代理的异质集合而变化。同质系统在并行性和弹性方面表现出色，但在多方面的挑战方面面临困难。异质系统可以利用专业代理的能力来解决特定问题，但需要复杂的协调机制来确保有效的协作。尽管代理能力的多样性可以提高系统的适应性，但它也可能使协调和治理变得复杂。 简洁性vs.复杂性: 系统复杂性由智能体之间如何相互作用决定。简单系统具有流程清晰、可预测智能体的 11自主和能动系统的置信度 集中化vs.分散化: 决策权可以从严格的集中式架构分布到完全去中心化的系统。集中式系统保持清晰的指挥结构，决策权集中在指定的控制点 ，能够实现精确治理，但可能产生潜在的瓶颈和单点故障。去中心化系统将决策广泛地分布在代理网络中，增强了弹性和可扩展性，但可能使系统范围的治理和协同变得复杂。 集中化光谱代表了控制与韧性之间的一个基本权衡。 这些维度可能表明，沿着每个轴（更大、更复杂、更多样化、更分散）最大化将创造出最优的系统。然而，这种最大化给控制、可预测性和一致性带来了巨大的挑战。合适的配置完全取决于具体的需求、风险承受能力和实施环境中的治理能力。 有效载荷视图：代理实际能做什么 什么是负载？ 系统和代理视图只谈论自主代理运行的整体架构，但根本不提及这些代理实际能做什么或它们内部如何工作。这些代理容器中的有效载荷决定了代理的功能、能力和行为，并且独立于它们所运行的整个系统。 载荷视图侧重于单个智能体的具体能力，而非它们之间的关系或系统组织。这些能力最终决定了系统的实际效用和影响，无论其架构多么复杂。 两个基本维度表征代理有效载荷，塑造其运行特性以及针对特定应用的适用性： 专业化vs.普遍化： 智能体从专注于狭窄领域的专业化实体到能够应对多样挑战的通用化系统不等。专业化智能体在其定义的领域内表现出色，提供高性能，但灵活性有限。它们在其专