在合作中与 AI CommonsPresidio 建议论负责任的生成 AIJ U N E 2 0 2 3 Introduction生成人工智能 (AI) 有潜力通过促进创新和Empowering individuals across diverse fi elds, from arts to scientific fi c research. To ensure a positive future, it is critical从一开始就优先考虑负责任的设计和发布实践。随着生成 AI 继续推进以前所未有的速度 ， 利益相关者之间需要合作 ， 以确保人工智能成为一股强大的力量变得越来越紧迫。2023 年 4 月 26 日至 28 日 ， 峰会 “负责任的人工智能领导力 ： 生成性人工智能全球峰会 ” 在世界经济论坛的第四次工业革命中心位于美国旧金山的 Presidio 。该活动由论坛与 AI Commons 合作主办 ， 以指导技术专家和决策者关于生成式人工智能系统的负责任的开发和治理。峰会强调了开放创新和国际合作作为重要推动因素的重要性负责任的生成 AI 。重点是超越有见地的讨论 ， 以产生可操作和针对各种 AI 利益相关者的实用建议 ， 这些建议可能在设计、施工和生成 AI 的部署。超过 100 位人工智能思想领袖和实践者参加了峰会 ， 其中包括首席科学家 ，负责任的 AI 和道德领导 ， 学术领导者 ， AI 企业家 ， 政策制定者 ， 技术投资者和成员公民社会。与会者参与了关于生成人工智能设计、开发、发布和社会影响 ， 并审议了关键建议。这些建议来自通过自下而上的过程进行互动小组讨论和工作会议 ， 参与者就与生成人工智能治理相关的关键领域达成共识。本摘要提出了一组 30 个面向行动的建议 ， 旨在指导生成 AI有意义的人类进步。这些建议涉及涵盖整个生命周期的三个关键主题生成人工智能 ： 负责任的开发和发布 ； 开放式创新和国际合作 ； 以及社会进步。通过实施这些建议 ， 利益相关者可以驾驭人工智能开发和负责任地和道德地利用其潜力。加入我们 ， 塑造一个更加创新、公平和繁荣的未来这利用了生成人工智能的力量 ， 并减轻了它对所有人都有利的风险。关于负责任生成 AI 的 Presidio 建议2 负责任的发展和生成 AI 的释放本节严格评估了保护我们的社会免受不可预见的结果的必要性。迅速开发生成 AI 系统 ， 并因此倡导有关其负责任的战略开发和部署。这些建议适用于广泛的利益相关者- 从人工智能开发人员到政策制定者和用户。目标是培养负责任和包容性AI 开发和部署的过程 ， 从而增强了作为生成 AI 系统的信任和透明度继续扩散。01建立精确和共享的术语要求所有利益相关者在讨论设计 ， 开发 ， 评估时使用精确的术语以及对生成 AI 模型的能力 ， 局限性和问题的衡量。专家有责任de fi ne and standardized this language. as soon as a consensus is reached, consistent adoption of this terms所有利益相关者都是必不可少的。这种方法将提高清晰度并促进有效的沟通 ， 从而不同各方之间的共同理解。最终 ， 它将促进建立强有力的标准 ，一系列生成 AI 应用程序的指南和规定。02建立公众对 AI 能力及其局限性的认识公共和私人利益相关者应优先考虑增强公众理解的任务。这包括使与生成 AI 模型相关的术语 ， 公众可以理解。此外 ， 利益相关者应该告知用户概率 (这意味着他们的输出不是确定性的 ， 而是基于概率)和随机 (暗示它们的操作涉及一定程度的随机行为) 性质的生成 AI 模型 ， 而为他们的表现设定准确的期望。03关注人类的价值观和偏好需要进一步认识到使生成 AI 模型与人类价值观和偏好保持一致的挑战并得到解决。 AI 系统的开发人员应参与有关规范价值和设计 AI 模型时的首选项。04鼓励协调和参与公共和私营部门的利益相关者应该认识到 ， 人工智能系统需要多样化的质量反馈并代表用户群真正保持一致。决策者应促进多元化的参与人工智能研究和开发中的利益相关者 ， 包括非技术利益相关者 ， 以确保与人类价值。 AI 开发人员应努力促进广泛参与者的互动和反馈创造一个更具包容性和以人为中心的发展过程。05通过严格的基准和使用来维护 AI 问责制案例规格 fi c 测试 ， 同时探索新的指标和标准AI 开发人员应该致力于不仅要让模型对最高建立基准 ， 但也 fi 新的指标超越传统指标和其他以人为中心的指标维度。基准测试应通过应用程序规范 fi c 和任务 de fi Ned 测试来补充 ， 以确保生成 AI 模型的综合评价。关于负责任生成 AI 的 Presidio 建议3 06雇用不同的红色团队红色团队 ， 一种批判性地分析观点以识别潜在弱点 ， 漏洞的方法以及需要改进的领域 ， 从模型设计到应用和发布都应该是不可或缺的。这里的多样性意味着将不同性别、背景、经验和观点的成员纳入全面批评。公共和私营部门应实施框架和方法 ， 以促进彻底的红色团队。07采用透明的发布策略人工智能的生产者应该负责任地发布人工智能模型 ， 向公众开放。在项目构想期间 ， 应在上游启动负责任的发布策略和产品设计 ， 以确保在整个开发过程中识别和减轻潜在风险。08启用用户反馈应该为用户提供强大的控制 ， 使他们能够对模型输出提供实时反馈。此外 ， 它是相关的 ， 使用户有一个全面的了解的限制和责任与生成的内容相关联。09嵌入模型和系统可追溯性开发人员和决策者应在建立正式评估和审计的重要性上保持一致围绕整个 AI 生命周期的可追溯性的结构 ， 从数据来源到培训场景和实施后。10确保内容的可追溯性为了提高透明度和问责制 ， 开发 AI 生成内容的公司应该负责用于跟踪内容如何生成并记录其来源。这将帮助用户辨别差异在人类生成的内容和 AI 生成的内容之间。11披露非人类互动在虚拟环境中 ， 人类应该知道他们是在与人或机器交互。应该开发机制来支持这一点 ， 例如 ， 通过水印。12构建人类 - AI 信任为了建立对人工智能系统的信任 ， 开发人员和公司应该优先考虑透明度、一致性和会议和管理用户期望。人工智能开发人员在流程和决策方面应该透明 ，让用户了解他们如何达到他们的结果。通过关注这些方面 ， AI 开发人员可以创建促进信任和促进积极的人与人工智能互动的系统。13实施分步审核流程政策制定者和企业应该为人工智能模型和产品创建一个逐步的审查过程。这应类似于临床试验或汽车制造中使用的详细检查 ， 无论是在产品之前还是之后goes live. There should be an independent auditor or international agency to see this to ensure uniform评估和持续监控。为了帮助限制潜在风险和负面影响 ， certi fi 阳离子或许可系统可以使用。关于负责任生成 AI 的 Presidio 建议4 14开发全面、多层次的测量框架政策制定者应强调正在进行的努力 ， 并激励开发人员和标准化机构将重点放在创建和采用测量框架 ， 强调社会技术方面 ， 而不仅仅是技术性能。15采用沙箱流程人工智能开发者、标准制定机构和监管机构应该合作开发更灵活的 “沙箱 ” 。environments along with new and associated processes of governance and supervision. Sandboxing could help build通过证明 AI 系统经过严格的测试和评估以确保安全性和可靠性来信任和合规。16适应不断变化的创意景观和知识产权随着生成式人工智能影响内容创作 ， 政策制定者和立法者必须重新审视和更新版权法 ， 以实现适当的归属 ， 以及现有内容的道德和法律重用。开放式创新和国际合作本节重点介绍分享科学知识和加强国际合作的重要性。由于前沿研究能力往往集中在选定的少数几个国家的私营部门公司 ， 它至关重要的是 ， 学术研究人员仍然是探索过程中不可或缺的一部分 ， 而世界各国参与并利用生成 AI 系统的治理。这些建议是为一系列利益相关者 ， 包括研究人员 ， AI 开发人员 ， 标准制定机构和政策制定者。总体目标是在发展、实施和生成 AI 的治理。17激励公私研究协调公共和私人利益相关者应积极努力设计激励结构 ， 以促进更大的在整个技术开发过程中 ， 学术研究人员与私营部门之间的协调生命周期。要考虑的可能机制包括联合研究计划、数据共享协议和联合知识产权所有权。18建立模型、工具、基准的通用注册表和最佳实践生成 AI 的生产者和研究人员应该为源代码的通用和开放注册表做出贡献。模型、数据集、工具、基准和最佳实践指南 ， 将在研究社区内共享为了有一个平台 ， 学术和私营部门的合作 ， 建立未来的模型和系统对公众透明和负责。关于负责任生成 AI 的 Presidio 建议5 19支持负责任的开放式创新和知识共享政策制定者和 AI 提供商应通过负责任的共享为 AI 民主化的框架做出贡献资源 ， 包括数据、源代码、模型和研究 fi 代码 ； 还鼓励共享证书 fiProcesses, ensuring transparency and trust among stakeholders. A public - private long - term initiative could be开发用于构建面向公众的平台 ， 提供对计算、数据和预训练模型的开放访问。该平台可以被视为数字公共物品 ， 并且可以跨境推广使用。20加强 AI 标准方面的国际合作标准机构必须促进人工智能标准方面的国际合作 ， 确保所有人工智能的参与利益相关者 ， 包括所有地理位置。21建立全球 AI 治理计划为了应对人工智能技术带来的挑战和潜在风险 ， 政策制定者应该考虑努力创建全球人工智能治理倡议。该倡议应汇集来自广泛的专家关键重点应该是促进全球对负责任的生成人工智能的理解 ， 确保广泛的包容性 ， 促进对基础设施的访问 ， 并促进合作 ， 以协调国家层面应对 AI 挑战和风险。社会进步本节探讨了与 AI 驱动的转型相关的障碍 ， 从劳动力过渡到教育转变 ， 以及倡导人工智能造福社会的必要性 fi t 和倡导公平的人工智能这些建议面向广泛的利益相关者 ， 包括教育机构、社区组织、公司、个人、决策者和政府。主要目标是培养一个更知情、更敬业、更有弹性的社会新的变化。22在生成 AI 开发和采用中优先考虑社会进步所有利益相关者都必须确保该技术的社会影响仍然是最重要的。这涉及超越技术优势的焦点 ， 关注技术在促进社会进步中的作用。必须向受人工智能转变影响的社区和工人提供全面支持社会 ， 包括学习计划 ， 关于克服生成 AI - specific fi c 挑战的指导 ， 以及协助驾驭 AI - in fluenced 环境中固有的道德、社会和技术变化员工积极参与整个过程。23推动整个社会的 AI 素养教育机构和社区机构必须主动提高一般人的人工智能素养public. A proactive approach is needed to demyful generative AI tools, outline their potential uses and discuss their道德含义。这将使个人能够更好地理解 ， 与之互动并为不断发展的人工智能的景观 ， 培育一个更加知情和参与性的社会。关于负责任生成 AI 的 Presidio 建议6 24在 AI 驱动的环境中培养整体思维方法培养多样化的思维模式 — — 批判性、计算性和负责任 — — 以更好地装备社会generative AI 时代。鼓励跨部门和社区的这些核心能力 ， 使个人能够批判性地参与人工智能生成的内容 ， 了解底层技术并做出负责任的决