2024年治理人工智能，助力造福人类

治理人工智能，助力造福人类 最后报告 Advanced Translation Copy 关于人工智能高级别咨询机构 ٶ，֨৻ՠ֢ॢа୸ङރՠҁ૨ি֣ͧ'ͨЈ௙ݕࠩӟдڏॹךӯञ㥶Ҽސ人工智能௤঴Ӱջતߣߑङݕઑ，ߣߑйٶۨ߃ॹ，િુӣઑ澞ڏӟݕ࠴ؼٷஎ治理୼ொ，֢人工智能ߤ ջતߣߑङۨմљЗ人૯ѡ৲ளҁО՟ਘুৃङї੮ՀԆ澞ܕߎճї੮ۨރךմङһજͺٷЉ߈ߊѠѾ▲ѹۨմઍՕކߎўИङ۱߄઀ࢵ澞ۨմःޢ，ѕћܕؼճИङৈખչڏઑଇۨдࡤٺ৲ளԥސவङ▲ਚ۞੿澞ܕߎճ۱ऀݒଃٷЉ۞նवۨմ۱֨ুৃكߣߑ֨வељઍՕ澞 目录 关于人工智能高级别咨询机构 4 执行摘要 7 Ҷࣱ治理ङڷ੽ۅҶࣱ人工智能治理ٛ૥ԆڠҶࣱՠҁ'৏▲ઍऽ(һգׂॅ)һцۙञ*ԣգԊ力ۃङՆڔࠥچӲث+੧Ԉշ՝ 7 8 1. 导言 প֜Ԉݐ଱չߑ'(ӯऀ人工智能造福人类ङҼ୰ݐԈ֜প)治理ީҼ୰ݐԈ֜প*௎கչܸ۫+人工智能ङ௎கܸ۫ङ߆ұڭ߄,242020202025 2. 全球治理的必要性 '֢எ人工智能治理ङحܶԽөչ৺能(ޏҽङ֢எ人工智能治理قࠀ3032 3434353638394242424446515254565858596263646566677783 3. 全球人工智能治理差距 'ї੮ٛۅ૥(ԣલސவङٛ૥)ۼ੧ސவङٛ૥ 4. 加强全球合作 '৏▲ઍऽ֢எ人工智能ॠ؆شু(һգׂॅ人工智能治理ݺঌثઢڶИࡶӕс߶人工智能)һцۙञ能力ՇيৠৌҶࣱ人工智能ׂ୐߫ࠃ݇ރҶࣱ人工智能*ԣգԊ力֨৻ՠ֢ॢаהӄગॹ人工智能ԄҸ֢ۃङՆڔࠥچӲث+எ人工智能ߣߑ% 5. 结论：行动呼吁 ஍ў'͹人工智能௤঴Ӱջતۨߣߑմ஍ў(͹人工智能௤঴Ӱջતߣߑङ৺ߓਸ֠஍ў)͹ٶջતࡴԈࢎԥ஍ў*͹Ȕࢋҵू९ȕࢎԥ஍ў+͹Ҷࣱ௎கਉԈલ߲ङঋזזঋݔ۾଱ߑ͹,஍ў஍ў-͹ঢ়ऋધ੮ 执行摘要 1. 全球治理的必要性 一人工智能正在变革我们的世界。这套技术具有巨大的向善潜力，从开辟新的科学探索领域和优化能源网络，到改善公共卫生和农业，乃至促进在实现可持续发展目标方面取得更广泛的进展。 全球治理的必要性尤其无可辩驳。从关键矿物到训练数据，人工智能的各种原材料都源自世界各地。跨境部署的通用人工智能在全球催生了众多应用。人工智能加速发展，引发了全球范围内权力和财富的聚集效应，并产生了地缘政治和地缘经济影响。 二但若不予监管，人工智能的机遇可能就无法显现或得到公平分配。由于数字鸿沟不断扩大，可能只有少数国家、企业和个人能从人工智能中获益。漏用人工智能，即由于缺乏信任或缺失推动因素(如能力差距和无效治理)而未能利用和分享人工智能的相关惠益，则可能会限制机遇空间。 八此外，目前没有人充分了解人工智能的所有内部运作，因而无法完全控制输出内容，或预测其演变过程。决策者也不会因为开发、部署或使用他们所不理解的系统而被追究责任。与此同时，这些决策可能会产生全球性的负面溢出效应和下游影响。 三人工智能还带来了其他风险。人工智能的偏见和监视伴随着新的担忧，例如大型语言模型的虚构（或“幻觉”）、人工智能增强的虚假信息生成和传播、对和平与安全的风险以及人工智能系统在气候危机时期的能耗。 九这种技术的开发、部署和使用不能仅由市场随意决定。各国政府和区域组织将发挥关键作用，但鉴于该技术本身在结构和应用方面的跨境性质，必须采取全球性办法。治理也可成为推动人工智能创新促进全球实现可持续发展目标的关键因素。 四快速、不透明和自主的人工智能系统对传统监管体系构成挑战，与此同时，这些日益强大的系统可能会颠覆工作领域。自主武器和人工智能在公共安全领域的使用引发了严重的法律、安全和人道主义问题。 十因此，人工智能的挑战和机遇并存，需要采取统筹兼顾的全球性办法，涵盖政治、经济、社会、道德、人权、技术、环境等各个领域。这种办法可将不断演变的零散举措汇聚成以国际法和可持续发展目标为基础、连贯一致、可互操作的整体，并随具体情况和时间推移不断作出调整。 五目前，人工智能全球治理存在缺陷。尽管就伦理道德和原则开展了大量讨论，但各种零散的规范和机构仍处于起步阶段，而且充满漏洞。问责制的缺失常常引人注目，包括在部署影响他人且不可解释的人工智能系统方面。合规往往基于自愿；言行前后矛盾。 十一我们在中期报告中概述了建立新的国际人工智能治理机构的指导原则2。这些原则承认，人工智能治理并不在真空状态下进行，国际法尤其是国际人权法适用于人工智能领域。 六正如我们在中期报告1中指出的，人工智能治理不仅对于应对挑战和风险极为关键，而且对于确保在利用人工智能潜力的同时确保不让任何一个人掉队至关重要。 2. 全球人工智能治理差距 3. 加强全球合作 十九我们的建议提出了一个整体愿景，即采用全球网络化、敏捷灵活的办法治理人工智能以造福人类，其中涵盖统一认知、共同基础和共享惠益。只有通过这种包容和全面的人工智能治理办法，才能应对和把握人工智能在全球范围内带来的多层面和不断演变的挑战和机遇，促进国际稳定和公平发展。 十二我们并不缺少聚焦人工智能治理问题的文件和对话。各国政府、企业和联盟以及区域和国际组织已通过了数百项指南、框架和原则。 十三然而，它们都不具备真正的全球影响力和全面覆盖性。这引出了代表性、协调和执行的问题。 十四就代表性而言，全世界的大片地区都被排除在国际人工智能治理对话之外。图(a)显示了七项重要的非联合国人工智能举措3。七个国家加入了样本中的所有人工智能治理努力，118个国家没有加入其中任何一项努力(主要是全球南方国家)。 二十我们的提议遵循中期报告所确立的原则，旨在填补差距，使快速兴起的国际人工智能治理对策和举措构成的生态系统协同一致，帮助避免碎片化和错失机遇。为高效地支持这些措施，并与其他机构开展有效合作，我们提议建立一个精简而灵活的机构以展现协同努力，即在联合国秘书处设立一个靠近秘书长的人工智能办公室，作为“粘合剂”高效和可持续地联结本报告中提出的各项举措。 十五为了实现公平，在决定如何治理与我们切身相关的技术时，需要让更多声音发挥切实有效的作用。决策工作集中在人工智能技术部门是不合理的；我们还必须认识到，历史上有许多社区被完全排除在影响他们的人工智能治理对话之外。 A. 统一认知 二十一为采取人工智能治理全球办法，首先要就人工智能的能力、机遇、风险和不确定性统一认知。需要获得关于人工智能的及时、客观、可靠的科学知识和信息，使会员国能够在全球范围内形成共同的基本理解，并对拥有昂贵人工智能实验室的企业与世界其他部分之间的信息不对称加以平衡(包括为此在人工智能企业和广大人工智能社区之间分享信息)。 十六人工智能治理制度还必须覆盖全球，这样才能在下列方面发挥成效：避免“人工智能军备竞赛”，或在安全和权利方面陷入逐底竞赛；查明和应对人工智能生命周期中跨越多个司法管辖区的决策所引发的事件；激励学习；鼓励互操作性；以及分享人工智能的惠益。这项技术跨越国界，随着它的传播，对于任何一个国家或国家集团能够（或应当）控制这项技术的幻想都会破灭。 二十二在全球层面汇集科学知识最为高效，这样能够对全球公共产品进行联合投资，并整合原本零散和重复的工作，促进公益合作。 十七各项举措和机构之间的协调差距可能会将全世界分裂为多个彼此脱节且互不相容的人工智能治理制度。联合国系统内部同样缺乏协调。尽管许多联合国实体都涉足人工智能治理，但其各自具有特定的任务授权，这意味着没有任何一个实体能够进行全面治理。 国际人工智能科学小组 二十三借鉴政府间气候变化专门委员会(气专委)和联合国原子辐射影响问题科学委员会等先例，一个国际多学科人工智能科学小组可负责整理和催化前沿研究，为科学家、政策制定者、会员国以及寻求从公正可靠来源了解人工智能技术或其应用方面科学观点的其他利益攸关方提供信息。 十八不过，代表性和协调并不够。问责的一项必要条件是执行，使全球人工智能治理的承诺转化为实践中的切实成果，包括在能力发展和支持中小企业方面，以期分享机遇。这方面的工作大多将在国家和区域层面进行，但也需要在全球一级作出更多努力，以应对风险和把握惠益。 二十四由联合国主持的科学小组可获取关于人工智能相关机遇的专业知识。其中可能包括促进“深入研究”可持续发展目标的应用领域，例如保健、能源、教育、金融、农业、气候、贸易和就业。 图(a)： 七项非联合国的国际人工智能治理举措中的代表性 样本: 经合组织《人工智能原则》(2019)、二十国集团《人工智能原则》(2019) 、欧洲委员会人工智能公约起草小组 (2022-2024) 、人工智能全球伙伴关系《部长宣言》(2022) 、七国集团《部长声明》(2023) 、《布莱切利宣言》(2023)和《首尔部长宣言》(2024)。 二十五风险评估还可借鉴其他人工智能研究举措的工作，由联合国为研究人员提供特别值得信赖的“安全港”，以交流关于“最先进”技术的想法。联合国主持的小组可打破知识壁垒，汇集原本可能不会参与或被纳入的国家或企业所掌握的知识，从而帮助纠正误解和增强全球信任。 二十六该小组应独立运作，并由下文提议的人工智能办公室以及国际电信联盟（国际电联）和联合国教育、科学及文化组织（教科文组织）等联合国相关机构组成的跨联合国系统团队提供支持。小组还应与经济合作与发展组织（经合组织）等其他国际机构领导的研究工作以及人工智能全球伙伴关系建立伙伴关系。1 建议1：国际人工智能科学小组 我们建议成立一个独立的国际人工智能科学小组，由该领域的多学科专家组成，以个人身份自愿任职。该小组将在拟议的联合国人工智能办公室和联合国其他相关机构的支持下，与其他相关国际组织合作，其任务包括： a)发布关于人工智能相关能力、机遇、风险和不确定性调查的年度报告，确定关于技术趋势的科学共识领域以及需要开展更多研究的领域; b)编制季度专题研究摘要，探讨人工智能有助于实现可持续发展目标的领域，重点关注可能扶持不足的公共利益领域; c)发布关于新兴问题的特别报告，特别是在治理领域出现的新风险或重大差距。 B. 共同基础 三十一政策对话可在纽约（例如大会4）和日内瓦现有会议期间开始。每年召开两次会议，其中一次会议可更多关注各部门的机会，另一次会议则更注重风险5。展望未来，这种会议将成为分享人工智能事件信息的适当论坛，例如分享那些使现有机构捉襟见肘或超出其能力范围的事件。 二十七除了就人工智能统一认知外，还需要建立共同基础，在全球规范和原则的基础上制定符合所有国家利益的可互操作的治理办法。必须在全球层面开展这项工作，以避免监管领域的逐底竞争，减少跨境监管摩擦；最大限度地提高学习和技术方面的互操作性；并有效应对人工智能跨境特性带来的挑战。 三十二在每次对话中，可由会员国牵头举办一部分会议，重点探讨各国采用的办法，另一部分会议则用于从主要利益攸关方（特别是科技企业和民间社会代表）那里获取专业知识和意见。除正式对话会议以外，还可利用其他更专业的现有机制，让多利益攸关方参与制定人工智能政策，例如通过国际电联的人工智能造福人类会议、互联网治理论坛年度会议、教科文组织的人工智能伦理问题全球论坛以及联合国贸易和发展会议（贸发会议）的电子周 。 人工智能治理政策对话 二十八需要建立一个包容各方的政策论坛，使所有会员国都能借鉴利益攸关方的专业知识，分享基于人权和推动发展的最佳做法，以此促进可互操作的治理办法，并应对需要作出进一步政策考虑的跨境挑战。这并不意味着对人工智能的所有方面进行全球治理，但该论坛可建立国际合作的框架，使业界和各国所作的努力更符合全球规范和原则。 人工智能标准交流中心 三十三在最初研究人工智能系统时，极少有标准可用于指引或评估这一新的前沿领域。近来，各种标准急剧增加。图(b)