AI 治理的启用原则

美国人工智能治理的综合策略

引言与背景

美国在人工智能（AI）治理方面面临的关键问题是如何平衡AI带来的巨大机遇与潜在风险。随着高性能大型语言模型（LLM）、ChatGPT/GPT-4、Clade、Gemii、Microsoft Copilot等技术的快速发展，AI对社会的影响变得日益复杂。欧洲和中国的国际合作伙伴及竞争对手也在推进各自的AI治理框架。

AI治理的主要挑战与原则

• 挑战：AI系统的多样性、复杂性和快速演进要求灵活的治理策略，以应对包括基于不良数据的歧视性输出、AI武器系统的风险、自主系统事故等挑战。
• 原则：
  1. 了解AI风险和危害的地形：通过跨行业、学术界和政府的合作，收集和分析AI事件，为治理提供数据支持。
  2. 让人类利用AI：提升公众和政策制定者对AI的认知，合理、负责任地使用AI应用。
  3. 保持适应性和敏捷性：制定灵活的政策，随技术发展调整，防止监管滞后。

事件收集与风险管理

• 事件报告：通过强制性、自愿性和公民报告系统收集AI事件数据，为风险评估提供依据。
• 风险分类：根据四种类型的风险（已证实、潜在、隐含和投机）对AI危害进行结构化分析。
• 事件收集体系：建立事件报告系统，优先关注有形伤害和政治影响力事件，促进政府、非政府组织和媒体的合作。

培养AI素养与地平线扫描

• AI素养：为政策制定者和公众提供AI教育，提高对AI应用的理解和使用能力。
• 地平线扫描：监控国内外AI发展动态，增强对新兴威胁的感知能力。

保持监管灵活性

• 迭代性：允许政策根据新知识和信息进行迭代更新，提高治理效率。
• 成本与权衡：评估实施治理措施的成本效益，考虑监管捕获的风险，同时确保监管机构的有效运作。

结论

美国可以通过遵循上述原则，结合事件收集、AI素养教育和灵活的监管策略，领导全球在负责任的AI发展道路上前进。这将有助于维护社会价值，促进创新，并适应AI技术的快速演变，确保AI为社会带来积极影响。