2024生成式人工智能安全与全球治理报告

Safety and Global Governanceof Generative Al Report i!tWifit!ltR&*3��Uffrt�*�����±Jllrr.if3f��*t9.J'� 目录 编者的话 序言 介绍V第一章生成式人工智能的风险与挑战1 季卫东1以更积极主动的治理应对人工智能发展中的风险与挑战4 王小红6人工智能的全球监管：主要差距和核心挑战8 罗斯塔姆·J·诺伊维尔特(Rostam J. Neuwirth)8 生成式人工智能对全球治理的挑战与应对9 孙南翔 9 邓肯·卡斯-贝格斯(Duncan Cass-Beggs)10 第二章生成式人工智能的全球治理策略12 基础模型和生成式人工智能时代全球人工智能治理的制度设计原则12 尼古拉斯·莫斯(Nicolas Moës)，尤兰达·兰奎斯特(Yolanda Lannquist)，12尼基·伊利亚迪斯(Niki Iliadis)，尼古拉斯·米埃赫(Nicolas Miailhe)12 有关全球人工智能治理的关键政策建议14 罗伯特·特拉格(Robert Trager)，菲恩·海德(Fynn Heide)16 协调、合作、紧迫性：国际人工智能治理的优先事项18 卡洛斯·伊格纳西奥·古铁雷斯(Carlos Ignacio Gutierrez)18 数据伦理与联合国教科文组织开放科学建议20 国际科技数据委员会数据伦理工作组20 张鹏 22 第三章人工智能治理助力发展中国家与全球可持续发展23发展中国家距离利用人工智能的力量还有多远？23尤金尼奥·巴尔加斯·加西亚(Eugenio Vargas Garcia)23推动发展中国家参与人工智能治理与可持续发展25鲁传颖25人工智能供应链与地缘政治：与全球南方国家共同治理27方淑霞(Marie-Therese Png)27人工智能监督可以从碳排放中学到什么29夏洛特·西格曼(Charlotte Siegmann)，丹尼尔·普里维特拉(Daniel Privitera)29人工智能治理如何促进全球经济增长与可持续发展？31廖璐31为全球大多数人的人工智能治理——以东南亚为例32莉安托涅特·蔡(Lyantoniette Chua)32第四章工程视角下的人工智能治理34理解模型能力是全球人工智能治理的优先事项34纳撒尼尔·沙拉丁(Nathaniel Sharadin)34标准化视角下的人工智能安全治理全球协作与敏捷更新36马骋昊、高万琪、范思雨36人工智能治理——一场再建巴比塔的革命38王俊，娜迪娅38新加坡治理生成式人工智能的方法和实践41丹尼丝·王(Denise Wong)41通过人工智能技术民主化实现人工智能对齐43伊丽莎白·西格(Elizabeth Seger)43学习机器的工程智慧45布雷特·卡兰(Brett Karlan)，科林·艾伦(Colin Allen)45多元、开放、互动：生成式人工智能模型训练所需的原则47刘纪璐(JeeLoo Liu)47第五章企业视角下的人工智能治理49一种负责任地扩展人工智能模型的框架49迈克尔·塞利托(Michael Sellitto)49以价值对齐塑造健康可持续的大模型发展生态51司晓、曹建峰51不要让深黑盒人工智能锁定了我们文明进化的路径53韦韬53英特尔负责任的人工智能应用探索54邹宁、王海宁54 致谢56 免责声明联系方式贡献情况 56 56 56 编者的话 本报告是由多元的作者观点汇集而成，旨在引起公众对生成式人工智能技术发展的安全性和治理问题的关注，并激发进一步的思考。我们认识到，这一领域的发展速度迅猛，伴随着许多潜在的挑战和机遇。报告中的具体观点仅代表各个作者本人，而不代表世界工程组织联合会创新技术专委会（WFEO-CEIT）或深圳科学技术协会的立场。我们强调，对于生成式人工智能技术的探索和应用，需要行业内外的广泛合作与持续对话，以确保科技的进步能够造福全人类，并在伦理和法律框架内得到妥善管理。通过这份报告，我们希望促进更多的交流和合作，共同探索这一前沿科技的未来。 序言 人工智能治理：为了人工智能发展得更好更快， 以加速实现全球可持续发展目标 龚克 首先祝贺世界工程组织联合会创新技术专委会（WFEO-CEIT）和深圳市科学技术协会共同组织编写了这份报告，做了一件很有意义的工作。在这份报告中，来自不同国家和地区、不同行业和领域的专家们，为我们带来了在不同视角下对人工智能治理的观察和思考以及有益的实践经验，他们从不同的角度提出完善人工智能治理的建议，包含了非常重要的共识：比如，加快建立人工智能全球多方共同治理的机制和开展广泛的对话，将伦理作为人工智能治理的最重要的基础，将风险较高的领域作为加快建立全球治理规范的优先领域，等等。 发布这个报告的时间，恰好处于《联合国2030年可持续发展议程》的中点。在不久前举行2023年联合国可持续发展目标峰会上，各国领导人一致呼吁要加倍努力，加速实现可持续发展目标（SDGs）。联合国秘书长古特雷斯指出，可持续发展目标不仅仅是一系列目标，它们承载着各国人民的希望、梦想、权利和期许。然而如今，只有15%的目标按预期进展，很多目标甚至出现了倒退。现在急需制定一项全球计划来挽救这些目标的实现。古特雷斯强调要在6个关键领域采取行动，其中之一就是“利用数字化转型机遇”。可以说，我们急需人工智能成为推动SDG加速的实现的重要动力。 人工智能是革命性的通用目的技术，是驱动第四次工业革命和经济社会数字化转型的先进生产力。无论是从全球的层面（如加速实现可持续发展转型），区域和国家的层面（如结合区域与国家实际的能源转型行动、促进经济增长和就业），行业和企业以及各种组织的层面（如提高行业的数字化转型、增进企业竞争力和组织效能），还是个人的层面（如提升职业能力、提升家庭生活的便捷性等等），人工智能都具有极大的潜力。因此，人工智能的治理无论如何都不是也不应该是阻碍人工智能发展的治理，而是促使它更好更快发展的治理。 人工智能的快速发展尤其今年以来生成式人工智能的快速发展，在给人们带来前所未有的体验和惊喜的同时，也加剧了人们对人工智能安全和伦理的关切，甚至出现 序言 了一定程度上的社会焦虑。这就凸显了完善人工智能治理、保证人工智能可控、向善的重要性和紧迫性。 鉴于人工智能等新兴数字技术从本质上将是全球性的技术，这些技术不认可地缘政治边界。人工智能的发展和治理，涉及全人类的共同利益，它们产生的影响（无论是正面的或是负面的）都会产生跨越国界、跨越行业和专业的全球性、全局性影响。因此，对于人工智能的有效治理必须是全球的、多利益相关方参与的共同治理。 事实上，国际组织（联合国、G20、G7、OECD、欧盟等）和各国政府以及人工智能企业已经在人工智能治理上采取行动，从这个报告中可以看到这些努力和重要的治理发展以及有益的实践。然而，尽管各国、各个组织提出的这些治理原则在极大程度上是一致或相近的，但是仍然缺乏广泛的明确的全球共识，作为进一步加强全球行动的基础。在当前已有的治理发展中，应该特别重视联合国教科文组织（UNESCO）的人工智能伦理建议书。 世界工程组织联合会（WFEO）从工程促进可持续发展的使命出发，在高度重视促进人工智能发展和应用以加快双重转型的同时，也高度重视人工智能的治理。2020年WFEO-CEIT在第一个世界工程日发布了在工程中负责任应用大数据和人工智能的七项原则、2021年WFEO支持联合国经济和社会事务部（UNDESA）和联合国秘书长技术事务特使办公室一起发布了《人工智能发展战略资源指南》，WFEO还积极参与了UNESCO的《人工智能伦理建议书》的咨询工作。我们认为，鉴于人工智能的发展和应用都离不开工程，而且只有工程化的人工智能才能真正在人类生产和生活中发生作用，所以，工程界应该成为人工智能共同治理中重要的、积极的一员。 从工程的角度看，应该特别重视将人工智能治理的伦理原则、法律规定落实到可以检验的技术标准之中。这些标准应该是全球性的，可以互通的和具有互操作性的。而要是这些原则和标准落到实处而不是停留于纸面，应当优先发展支持治理的技术手段和工具，比如隐私计算的技术、伦理审计的技术，等等。 WFEO还强调，人工智能的发展和治理离不开包括工程教育在内的广泛的能力建设，特别是要采取实际行动减少与人工智能相关的数字能力鸿沟，这本身也应该成为人工智能全球治理的题中应有之义。 总而言之，作为全球工程界的领导者——WFEO愿意在人工智能全球共同治理中发挥积极的作用。我们相信，人工智能先进技术的发展和应用，是无可阻挡的，人工智能治理应该是促进性的治理，即以人工智能更好更快的发展为目标，最大限度发挥它的技术潜力为人类和地球的可持续发展服务；我们重申，人工智能的有效治理必须是全球的、多利益相关方参与的共同治理，当前应该的联合国的框架内组织广泛参与 生成式人工智能安全与全球治理报告 的对话以促进明确的治理共识，并形成常效机制（如同气候协定），作为进一步推进共同治理行动的基础；我们强调，人工智能的治理应该是基于伦理的治理，UNESCO的《人工智能伦理建议书》为此提供了重要的基础；我们还注意到，已经提出的治理原则和正在进行的治理实践，都采取基于风险的差异化治理，因此我们呼吁对于人工智能的风险认识应成为全球多元对象的优先事项；我们还主张，要把人工智能发展和治理的能力建设，特别是缩小人工智能能力差距，作为人工智能治理的重要方面，并在把帮助发展中国家建设人工智能能力方面，实施有力且紧迫的行动。 龚克，WFEO前任主席（2019-2022），WFEO-CEIT顾问。 介绍 介绍 2023年10月18日，习近平主席在第三届“一带一路”国际合作高峰论坛开幕式主旨演讲中宣布中方将提出《全球人工智能治理倡议》，并于同日由中央网信办正式发布，围绕人工智能的发展、安全和治理阐述立场主张，表示愿同各方就全球人工智能治理开展沟通交流、务实合作，推动人工智能技术造福全人类。10月26日，联合国秘书长古特雷斯宣布，正式组建一个新的高级别人工智能咨询机构，全球39名专家共商人工智能治理，以探讨这项技术带来的风险和机遇，并为国际社会加强治理提供支持。11月1日，首届全球人工智能安全峰会在英国布莱切利园拉开帷幕。包括中国、美国在内的28个国家和欧盟，共同签署了《布莱切利人工智能安全宣言》，一致认为人工智能对人类构成了潜在的灾难性风险。 在这个背景下，本报告汇集了全球40多位人工智能治理、科技伦理、大模型安全和对齐、通用人工智能风险等领域的政策制定者、企业家、专家学者、工程师等的29篇评论，旨在引起对生成式人工智能发展与安全与治理的关注和进一步的思考，呼吁开展广泛的合作。其中的具体观点并不代表任何主办和主编机构。按照讨论主题分为以下五章： 第一章，生成式人工智能的风险与挑战 从近期和长远两个时间维度来看，专家们关注的近期风险和挑战包括：一是大语言模型的隐私和安全隐患；二是大语言模型生成的虚假信息和“幻觉”问题；三是模型的价值观偏差和缺乏解释性；四是模型滥用造成的道德和伦理风险；五是人工智能应用带来的知识产权和法律监管问题。 而长远风险和挑战包括：一是人工智能可能导致经济和社会的重大变革，需要统筹应对；二是人工智能可能颠覆现有国际法律体系和世界秩序；三是人工智能存在全球共同的风险，需要建立国际规范和监管；四是不同国家和文化在人工智能价值观上存在分歧；五是强人工智能可能脱离人类控制，产生灾难性风险。 总体而言，近期的风险更多集中在个别模型和应用层面，而长期的风险和挑战更多关乎人工智能技术的整体发展方向和社会影响。但无论近远，建立国际合作和制定伦理规范对于应对人工智能风险都至关重要。 第二章，生成式人工智能的全球治理策略 专家们关注的优先事项为：一是全球合作与协调：在人工智能治理中强调国际合作的必要性，尽快启动多边协调与合作进程，促进广泛国家参与治理；二是风险识别 与管理：集中关注人