关于负责任生成 AI 的 Presidio 建议

负责任生成 AI 的 Presidio 建议

2023年4月26日至28日，世界经济论坛与 AI Commons 在美国旧金山 Presidio 联合举办了“负责任AI领导力：生成式AI全球峰会”，超过100位人工智能领域的思想领袖和从业者参与讨论，就生成式AI的设计、开发、发布及其社会影响达成共识，提出了30项行动导向的建议。

核心观点

生成式AI具有变革各行各业和社会的潜力，但必须优先考虑负责任的设计和发布实践，以确保其成为向善的力量。峰会强调开放创新和国际协作的重要性，并着重于生成具有实际操作性和实用性的建议，以影响生成式AI的设计、构建和部署。

关键建议

负责任的研发与发布

1. 建立精确和共享的术语：所有相关方应使用精确的术语讨论生成式AI模型的能力、局限性和问题，并促进清晰度和有效沟通。
2. 保持AI问责制：通过严格的基准测试和特定应用场景的测试探索新的指标和标准，确保模型与人类价值观和偏好相一致。
3. 采用透明的发布策略：AI开发者和公司应保持流程和决策过程的透明度，建立逐步审查过程，并采用认证或许可系统。
4. 嵌入模型和系统可追溯性：确保内容的可追溯性，并开发机制支持用户知晓他们是在与人类还是机器进行互动。
5. 启用用户反馈：赋予用户强大的控制权限，使其能够实时反馈模型输出结果，并全面了解生成内容的相关限制和责任。
6. 实施分步审核流程：建立正式的评估和审计结构，确保在整个AI生命周期中的一致认可和可追溯性。
7. 披露非人类互动：AI提供商应开发水印等技术，确保用户能够区分人类生成的内容与AI生成的内容。

开放创新与国际协作

1. 建立模型、工具、基准和最佳实践的通用注册表：促进学术界和私营部门的合作，共享源代码、模型、数据集、工具、基准测试和最佳实践指南。
2. 建立更加灵活的“沙盒”开发环境：通过展示AI系统已经经过严格的测试和评估，确保安全、可靠性和合规性，从而增强信任。
3. 激励公私研究协调：设计激励结构，促进学术研究人员与私营部门之间的更大协调，包括联合研发项目、数据共享协议以及共同知识产权所有权。
4. 适应不断变化的创造力和知识产权景观：政策制定者和立法者需重新审视并更新版权法，以确保适当的归属，并促进现有内容的道德和合法再利用。

社会进步

1. 推动整个社会的 AI 素养：教育机构和社区组织必须主动提高公众的AI素养，概述其潜在用途，并讨论其伦理影响。
2. 建立全球 AI 治理计划：汇聚来自各个领域的专家，促进负责任生成式AI的全球理解、确保广泛的包容性、促进基础设施的访问以及培养合作精神。
3. 支持负责任的开放式创新和知识共享：公共和私营部门应贡献于通过负责任地分享资源（包括数据、源代码、模型和研究成果）来普及AI。
4. 加强 AI 标准方面的国际合作：标准机构必须促进人工智能标准的国际合作，确保所有人工智能利益相关者，包括所有地理区域，都能参与其中。
5. 解决资源和基础设施差异：建立能够大规模提供支持和资源的倡议，特别是在可能存在数字基础设施限制的发展中国家。
6. 保护文化遗产：投资于创建定制化的数据集并开发代表性不足语言的语言模型，利用当地社区和研究人员的专业知识。
7. 培养人工智能专业人才：政府应投资于培养人工智能专业人才，确保在这些变革性技术方面采取知情、有效和负责任的公共政策和监管方法。
8. 探讨生成式AI对社会系统产生的变革性影响：理解其对人类互动、知识传播和评估机制的影响，并积极适应不断变化的环境。
9. 增加发展中国家对人工智能的公平获取：政策制定者应鼓励发展和实施优先考虑社会福祉并解决复杂且未被满足的社会需求的生成式AI技术。
10. 转向生成 AI 的变革性影响：培养多样化的思维方式——批判性、计算性和责任感，以更好地为生成式AI时代做好准备。

研究结论

通过实施这些建议，利益相关方可以 navigage 人工智能开发的复杂性，并负责任且伦理地利用其潜力，共同塑造一个更具创新性、更加公平和繁荣的未来，充分利用生成式人工智能的力量并减轻其风险，以惠及所有人。