人工智能治理联盟：简报系列

AI治理联盟简报纸系列(2024年1月)

前言

• 领导者：Paul Daugherty（埃森哲CTIO）、John Granger（IBM咨询公司高级副总裁）、Jeremy Jurgens（世界经济论坛董事总经理）、Cathy Li（AI、数据和Metaverse负责人；世界经济论坛执行委员会成员）

主题概览

• AI治理联盟简介：一个旨在确保道德和负责任地开发、部署及采用人工智能的全球性合作平台。
• AI治理联盟简报系列：包括三个核心简报，分别聚焦安全系统与技术、负责任的应用与转型、以及弹性治理与监管。

AI治理联盟简报系列亮点

• 安全系统与技术简报：关注在开发阶段实施必要的保障措施，研究基础模型的技术层面，确保负责任的发布流程。
• 负责任的应用与转型简报：帮助企业领导者评估生成式AI的业务转型，理解其对价值链和业务模型的影响。
• 弹性治理与监管简报：探讨AI治理格局，促进国际间监管互操作性，确保公平、包容地获取AI资源。

AI治理联盟指导委员会

• 包括来自公私部门、学术界等的领导人，如Meta总裁尼克·克莱格、IBM副主席加里·科恩等。

词汇表

• 人工智能系统、部署后自主性、因果AI、微调、基础模型、前沿模型、生成式AI、幻觉、辖区互操作性、虚假信息、模型漂移监控、模型超参数、多模式AI、提示工程、检索增强生成、参数有效的微调、AI红色团队、来自人类反馈的强化学习。

Presidio AI框架：迈向安全的生成AI模型

• 执行摘要：提出Presidio AI框架，以结构化方式解决生成AI的安全性问题，平衡安全、伦理与创新。

• 扩展的AI生命周期：构建全面的AI生命周期视图，涵盖从基础模型构建到应用和退休的每个阶段。

• 扩展的风险护栏：详细说明生成AI生命周期各阶段应考虑的强大风险缓解策略。

• 左移方法：提倡在AI开发的早期阶段实施护栏，以优化风险缓解。

结论与贡献者

• 强调了行业、政策制定者和组织间的多利益相关者合作的重要性。

• 提出了共享责任、早期风险识别和主动风险管理的理念。

• 为AI治理联盟和安全系统技术工作组的后续工作奠定了基础。

目标与未来展望

• 旨在促进安全、道德的AI开发、部署和使用。

• 鼓励全球范围内的合作，以实现更广泛的AI普及和应用。

• 未来工作将扩展核心概念和组件，包括更详细的护栏列表和实施指南。

此简报纸系列提供了对AI治理的深入见解，强调了在AI开发、应用和监管方面面临的挑战和机遇，旨在促进负责任的AI实践，确保技术的广泛应用能带来积极的社会影响。