AI 治理联盟 ： 简报系列

总结

核心观点： 生成式AI的发展为积极的社会变革带来了重大机遇，但也为AI风险管理增添了新的维度。Presidio AI框架通过使用护栏促进生成式AI开发中的共同责任、早期风险识别和积极的风险管理，平衡安全、伦理和创新至关重要。

关键数据： 自2022年11月OpenAI推出ChatGPT以来，生成式AI技术成熟度加速提升，引发全球对其能力和潜在变革影响的兴趣。组织转向基于特定应用场景的小规模方法，强调创意和实验。生成式AI有望在10年内将全球国内生产总值(GDP) 提高 7 ％。

研究结论：

• Presidio AI框架： 该框架从AI模型创建者、AI模型适应者、AI模型用户以及AI应用用户四位主要参与者的视角出发，强调在生成式AI生命周期的不同阶段考虑稳健的风险防护措施，重点在于预防而非缓解。
• 扩展的AI生命周期： 该框架建立了对生成型AI生命周期的全面端到端视角，涵盖数据管理、基础模型设计与开发、发布访问以及生成性用途的元素。
• 左移方法论： 建议在生成式AI生命周期的最早阶段尽早实施护栏措施，主动识别和管理潜在风险，提高效率和成本效益。
• 负责任转型： 组织需要评估潜在应用场景，涵盖商业影响、组织准备程度和投资策略。通过形成有凝聚力的叙述的沟通团队，解决问责制，应对扩展挑战，解决人的影响，实现负责任且成功的转型。
• 全球AI治理： 全球AI治理格局复杂、碎片化且迅速演变，生成式AI的出现带来了新的和放大了的挑战。国际合作和司法互操作性至关重要，需要制定响应措施以增加AI发展中的公平性和包容性，这包括全球南方国家。