人工智能治理：历史经验的启示
本文通过回顾核技术、互联网、加密产品和基因工程四项技术的治理案例，探讨其对人工智能治理的启示。报告认为，人工智能治理应关注以下三个方面：制定技术规范时达成共识的重要性、治理有形资产与无形资产所面临的不同挑战，以及公私伙伴关系在治理中的作用。
人工智能治理的紧迫性
近年来，人工智能的发展引发了对潜在风险的担忧，包括工作岗位减少、决策偏差、虚假信息传播、国家安全威胁等。通用人工智能，特别是生成式人工智能和大型语言模型，对人类生命和福祉构成威胁，促使大众更加关注人工智能的监管和治理。
历史经验对人工智能治理的启示
核技术
- 治理历程：二战后美国研发核武器，苏联试爆打破垄断，引发核扩散担忧，美国通过《不扩散核武器条约》等举措进行治理。
- 治理效果：核武器八十年来未在战争中使用，核扩散得到控制，和平利用核能技术得以传播。
互联网
- 治理历程：互联网起源于20世纪60年代，由政府资助的公私网络发展而来，1995年政府停止资助，互联网进入私有化阶段。
- 治理效果：早期互联网治理以私营部门主导、公私部门合作为主，政府推动技术发展，私营部门自由创新。
加密产品
- 治理历程：20世纪70年代前加密产品由政府控制，后因军事需求、技术进步和商业应用需求发生变化，美国曾通过出口管制等手段进行治理，后因利益冲突和法规限制而放松管制。
- 治理效果：强加密技术在全球传播受限，但仍有动机的用户能获得，美国软件业受损失，政府公信力降低。
基因工程
- 治理历程：20世纪70年代初，科学家发现DNA重组技术存在风险，通过“暂停”基因工程技术进行治理，阿西洛玛会议达成共识，制定指导方针。
- 治理效果：DNA重组技术治理取得成功，人类基因编辑则因伦理问题难以达成共识，治理体系存在缺陷。
人工智能治理可借鉴的经验教训
历史例子与人工智能治理的相关性
- 核技术：与人工智能相似之处在于两用性和高风险，但人工智能风险描述缺乏细节，且无类似的有形资产可供监控。
- 互联网：与人工智能相似之处在于信息和通信技术属性，但人工智能从一开始就与风险相关，公私合作伙伴关系和规范共识至关重要。
- 加密产品：与人工智能相似之处在于无形资产属性和两用性，但加密产品治理失败表明规范共识的重要性，以及政府治理无形资产的难度。
- 基因工程：与人工智能相似之处在于私营部门主导和风险认知，但基因工程涉及物理实体治理，且伦理问题难以达成共识。
为人工智能治理提供可借鉴的经验教训
- 情景一：人工智能存在严重风险，需大量资源，具有两用性，涉及可监控的有形资产，可借鉴核技术治理模式，建立国际机构进行治理。
- 情景二：人工智能发展风险微乎其微，可借鉴互联网治理模式，政府资助或促进发展，将治理权下放给私营部门。
- 情景三：人工智能开发门槛低，但风险巨大，可借鉴加密产品和基因工程治理经验，建立公私伙伴关系，加强治理，但需警惕伦理问题。
结论
人工智能治理需借鉴历史经验，但需注意环境差异，有意识促成共同规范，关注技术和环境变化，并做好适应准备。
