AI Agents in Action: A Playbook for Trusted Adoption, Authorization and Scaling
该研报探讨了AI代理的组织化应用，重点关注授权和治理问题，提出了“代理能力和授权配置文件（ACAP）”作为解决方案。
核心观点：
- AI代理的应用速度超过了治理框架的发展，授权成为大规模采用的瓶颈。
- 成功部署AI代理需要建立共同的语言和明确的决策权，以及有效的监督和评估机制。
- 研报提出了“代理指南”和“ACAP”框架，以及分阶段的采用生命周期，以实现AI代理的负责任部署和扩展。
关键内容：
-
代理指南：
- 定义了组织层面的政策，包括自主性、授权和后果等术语，以及决策权和责任分配。
- 确定了AI代理适用的场景，例如需要多步骤协调、状态或环境动态变化的情况。
- 规划了采用顺序和早期用例的优先级，建议从低后果、可逆的流程开始。
- 根据部署环境（单组织、多组织单平台、多平台跨边界）设定了不同的治理预期。
- 定义了人机操作模式，强调了人类监督的重要性，并提出了防止监督疲劳和自动化偏差的建议。
-
ACAP（代理能力和授权配置文件）：
- ACAP是针对特定部署的授权记录，定义了代理的范围、操作环境、权限、控制、证据、负责人和再授权周期。
- ACAP包含七个部分：身份和范围、操作环境、权限和后果事件、控制和安全、评估证据和晋升门、监控、事件和变更日志、授权和再授权。
- ACAP通过三个阶段进行维护：
- 系统设计和评估：定义代理的角色、范围、环境、权限、控制和风险等级。
- 准备和部署：实施控制措施，在沙盒环境中验证行为，准备监督者和用户，并将代理转入实际运行。
- 监控和改进：使用生产数据验证代理的行为，根据观察到的性能进行控制调整和再授权。
-
采用生命周期：
- 生命周期分为三个阶段，每个阶段都有关键的决策点和验收标准。
- 通过生命周期和ACAP，组织可以逐步扩大AI代理的自主性和权限，并确保始终符合风险和治理要求。
研究结论：
- ACAP框架为AI代理的授权和治理提供了结构化的方法，有助于组织实现可扩展和负责任的部署。
- 通过建立共同的语言和标准化的授权记录，可以提高效率，降低风险，并增强利益相关者之间的信任。
- 未来，ACAP可以与其他治理框架和基础设施集成，支持跨组织和跨平台的AI代理生态系统。
关键数据：
- 研报引用了NIST AI风险管理框架、ISO 42001、EU AI法案等标准，以及OWASP、IMDA、MLCommons等组织的建议。
- 研报强调了代理风险管理的重点，包括工具使用、行动执行和现实世界部署环境中的风险。
- 研报建议考虑经济风险，例如支出上限、每任务成本阈值等。
总结：
该研报为AI代理的组织化应用提供了实用的指导，强调了授权和治理的重要性，并提出了ACAP框架作为解决方案。通过建立共同的语言、标准化的授权记录和分阶段的采用生命周期，组织可以确保AI代理的负责任部署和扩展，并实现预期的效益。
