治理人工智能，助力造福人类

治理人工智能，助力造福人类：最后报告版权所有© 2024联合国保留所有权利未经出版方书面许可，不得以任何电子或机械形式或方式，包括影印、录制或任何已 知或待发明的信息存储或检索系统，复制或传播本出版物全文。如欲转载节选内容或影印，请联系版权结算中心（copyright.com）。如欲了解包括附属权在内的权利和许可信息，请联系：United Nations Publications,405 East 42nd Street, S-011FW001, New York, NY 10017, United States of America.电子邮件：permissions@un.org；网址：shop.un.org本出版物所使用的名称与材料的编排方式，并不意味着联合国秘书处对任何国家、领土、城市或地区 或其当局的法律地位，或者对其边界或界限的划分表示任何意见。eISBN: 9789211068863 治理人工智能，助力造福人类最后报告 4治理人工智能，助力造福人类关于人工智能高级别咨询机构2020年，在联合国秘书长的数字合作路线图（A/74/821）下首次提出了建立多利益攸关方人工智能高级别咨询机构的提议，机构于2023年10月成立，负责分析人工智能国际治理问题，并就此提出建议。咨询机构的成员以个人身份而非作为各自组织的代表参加。本报告代表多数成员的共识；并不期望任何一位成员认可本文件中的所有观点。成员申明，他们就报告中的结论和建议达成了广泛而非单方面的一致意见。本报告所用措辞并不意味着成员所在组织在机构层面予以认可。 关于人工智能高级别咨询机构执行摘要1. 全球治理的必要性2. 全球人工智能治理差距3. 加强全球合作A. 统一认知B. 共同基础C. 共享惠益D. 协同努力E. 对制度模式的反思4. 行动呼吁1. 导言A. 机遇和推动因素B. 利用人工智能造福人类的关键推动因素C. 治理是关键推动因素D. 风险和挑战E. 人工智能的风险F. 有待克服的挑战2. 全球治理的必要性A. 国际人工智能治理的指导原则和职能B. 新兴的国际人工智能治理格局目录 477888101216171819242020202025303032 最后报告 3434353638394242424446515254565858596263646566677783 6治理人工智能，助力造福人类3. 全球人工智能治理差距A. 代表性差距B. 协调方面的差距C. 执行方面的差距4. 加强全球合作A. 统一认知国际人工智能科学小组B. 共同基础人工智能治理政策对话人工智能标准交流中心C. 共享惠益能力发展网络全球人工智能基金全球人工智能数据框架D. 协同努力在联合国秘书处内设立人工智能办公室E. 对制度模式的反思国际人工智能机构 ?5. 结论：行动呼吁附件A：人工智能高级别咨询机构成员附件B：人工智能高级别咨询机构的职权范围附件C：2024 年咨询活动清单附件D：“深入研究”清单附件E：全球风险脉动调查的答复附件F：机遇扫描答复附件G：缩略语表 执行摘要一人工智能正在变革我们的世界。这套技术具有巨大的向善潜力，从开辟新的科学探索领域和优化能源网络，到改善公共卫生和农业，乃至促进在实现可持续发展目标方面取得更广泛的进展。二但若不予监管，人工智能的机遇可能就无法显现或得到公平分配。由于数字鸿沟不断扩大，可能只有少数国家、企业和个人能从人工智能中获益。错失利用机会，即由于缺乏信任或缺失推动因素（如能力差距和无效治理）而未能利用和分享人工智能的相关惠益，则可能会限制机遇空间。三人工智能还带来了其他风险。人工智能的偏见和监视伴随着新的担忧，例如大型语言模型的虚构（或“幻觉”）、人工智能增强的虚假信息生成和传播、对和平与安全的风险以及人工智能系统在气候危机时期的能耗。四快速、不透明和自主的人工智能系统对传统监管体系构成挑战，与此同时，这些日益强大的系统可能会颠覆工作领域。自主武器和人工智能在公共安全领域的使用引发了严重的法律、安全和人道主义问题。五目前，人工智能全球治理存在缺陷。尽管就伦理道德和原则开展了大量讨论，但各种零散的规范和机构仍处于起步阶段，而且充满漏洞。问责制的缺失常常引人注目，包括在部署影响他人且不可解释的人工智能系统方面。合规往往基于自愿；言行前后矛盾。六正如我们在中期报告1中指出的，人工智能治理不仅对于应对挑战和风险极为关键，而且对于确保在利用人工智能潜力的同时确保不让任何一个人掉队至关重要。1见https://un.org/ai-advisory-body.2指导原则1：人工智能应由所有各方以包容方式共同治理，并造福所有人；指导原则2：人工智能治理必须以公共利益为导向；指导原则3：人工智能治理应与数据治理和促进数据共享空间协同进行；指导原则4：人工智能治理必须具有普遍性、网络化并植根于多利益攸关方的适应性协作；指导原则5：人工智能治理应立足于《联合国宪章》、国际人权法和可持续发展目标等其他商定的国际承诺。 1. 全球治理的必要性七全球治理的必要性尤其无可辩驳。从关键矿物到训练数据，人工智能的各种原材料都源自世界各地。跨境部署的通用人工智能在全球催生了众多应用。人工智能加速发展，引发了全球范围内权力和财富的聚集效应，并产生了地缘政治和地缘经济影响。八此外，目前没有人充分了解人工智能的所有内部运作，因而无法完全控制输出内容，或预测其演变过程。决策者也不会因为开发、部署或使用他们所不理解的系统而被追究责任。与此同时，这些决策可能会产生全球性的负面溢出效应和下游影响。九这种技术的开发、部署和使用不能仅由市场随意决定。各国政府和区域组织将发挥关键作用，但鉴于该技术本身在结构和应用方面的跨境性质，必须采取全球性办法。治理也可成为推动人工智能创新促进全球实现可持续发展目标的关键因素。十因此，人工智能的挑战和机遇并存，需要采取统筹兼顾的全球性办法，涵盖政治、经济、社会、伦理、人权、技术、环境等各个领域。这种办法可将不断演变的零散举措汇聚成以国际法和可持续发展目标为基础、连贯一致、可互操作的整体，并随具体情况和时间推移不断作出调整。十一我们在中期报告中概述了建立新的国际人工智能治理机构的指导原则2。这些原则承认，人工智能治理并不在真空状态下进行，国际法尤其是国际人权法适用于人工智能领域。 最后报告 8治理人工智能，助力造福人类2. 全球人工智能治理差距十二我们并不缺少聚焦人工智能治理问题的文件和对话。各国政府、企业和联盟以及区域和国际组织已通过了数百项指南、框架和原则。十三然而，它们都不具备真正的全球影响力和全面覆盖性。这引出了代表性、协调和执行的问题。十四就代表性而言，全世界的大片地区都被排除在国际人工智能治理对话之外。图(a）显示了七项重要的非联合国人工智能举措3。七个国家加入了样本中的所有人工智能治理举措，118个国家没有加入其中任何一举措（主要是全球南方国家）。十五为了实现公平，在决定如何治理与我们切身相关的技术时，需要让更多声音发挥切实有效的作用。决策工作集中在人工智能技术部门是不合理的；我们还必须认识到，历史上有许多社区被完全排除在影响他们的人工智能治理对话之外。十六人工智能治理制度还必须覆盖全球，这样才能在下列方面发挥成效一避免“人工智能军备竞赛”，或在安全和权利方面陷入“逐底竞赛”；查明和应对人工智能生命周期中跨越多个司法管辖区的决策所引发的事件；激励学习；鼓励互操作性；以及分享人工智能的惠益。这项技术跨越国界，随着它的传播，对于任何一个国家或国家集团能够（或应当）控制这项技术的幻想都会破灭。十七各项举措和机构之间的协调差距可能会将全世界分裂为多个彼此脱节且互不相容的人工智能治理制度。联合国系统内部同样缺乏协调。尽管许多联合国实体都涉足人工智能治理，但其各自具有特定的任务授权，这意味着没有任何一个实体能够进行全面治理。十八不过，代表性和协调并不够。问责的一项必要条件是执行，使全球人工智能治理的承诺转化为实践中的切实成果，包括在能力发展和支持中小企业方面，以期分享机遇。这方面的工作大多将在国家和区域层面进行，但也需要在全球一级作出更多努力，以应对风险和把握惠益。3不包括联合国教育、科学及文化组织（教科文组织）《人工智能伦理问题建议书》（2021年）和2024年大会关于人工智能的两项决议：“抓住安全、可靠和值得信赖的人工智能系统带来的机遇，促进可持续发展”（78/265）和“加强人工智能能力建设方面的国际合作”（78/311）。 3. 加强全球合作十九我们的建议提出了一个整体愿景，即采用全球网络化、敏捷灵活的办法治理人工智能以造福人类，其中涵盖统一认知、共同基础和共享惠益。只有通过这种包容和全面的人工智能治理办法，才能应对和把握人工智能在全球范围内带来的多层面和不断演变的挑战和机遇，促进国际稳定和公平发展。二十我们的提议遵循中期报告所确立的原则，旨在填补差距，使快速兴起的国际人工智能治理对策和举措构成的生态系统协同一致，帮助避免碎片化和错失机遇。为高效地支持这些措施，并与其他机构开展有效合作，我们提议建立一个精简而灵活的机构以展现协同努力，即在联合国秘书处设立一个靠近秘书长的人工智能办公室，作为“粘合剂”高效和可持续地联结本报告中提出的各项举措。A. 统一认知二十一治理人工智能的一个全球进路，首先要就人工智能的能力、机遇、风险和不确定性统一认知。需要获得关于人工智能的及时、客观、可靠的科学知识和信息，使会员国能够在全球范围内形成共同的基本理解，并对拥有昂贵人工智能实验室的企业与世界其他部分之间的信息不对称加以平衡（包括为此在人工智能企业和广大人工智能社区之间分享信息）。二十二在全球层面汇集科学知识最为高效，这样能够对全球公共产品进行联合投资，并整合原本零散和重复的工作，促进公益合作。国际人工智能科学小组二十三借鉴政府间气候变化专门委员会（气专委）和联合国原子辐射影响问题科学委员会等先例，一个国际多学科人工智能科学小组可负责整理和催化前沿研究，为科学家、政策制定者、会员国以及寻求从公正可靠来源了解人工智能技术或其应用方面科学观点的其他利益攸关方提供信息。二十四由联合国主持的科学小组可获取关于人工智能相关机遇的专业知识。其中可能包括促进“深入研究”可持续发展目标的应用领域，例如保健、能源、教育、金融、农业、气候、贸易和就业。 



















ڴ国、ࡣ大、ܳ加国、۞大ӯ、ޙߎ、৻ՠࣦ国和২国Հ加дߎ߽中的аކ/ݒР߄۱З国家未中ߎ߽Հ加的任何人工智/ݒࣲР࡞能߽аކߎ经ՠ组ৃ澦人工智能Խө澧、иԝ国த֝澦人工智能Խө澧 、ࡳࠬ׹մ会人工智能Ҹ঳૜਻ش组  、人工智能ҶࣱѪѴҼ঩澦ୂ୸؛ઈ澧 、Є国த֝澦ୂ୸澧ޢג 、澦٢ੀӤӯ؛ઈ澧和澦௙ضୂ୸؛ઈ澧。੼ࠬ和其ѕ地区组Бࠬ国家组ܞЃ২ࡳ和加ԏ国家组ࡁ国家组࡭平ן和ࡳоளࡳ国家组二十五风险评估还可借鉴其他人工智能研究举措的工作，由联合国为研究人员提供特别值得信赖的“安全港”，以交流关于“最先进”技术的想法。联合国主持的小组可打破知识壁垒，汇集原本可能不会参与或被纳入的国家或企业所掌握的知识，从而帮助纠正误解和增强全球信任。图(a)： 代表了7个非联合国国际人工智能治理倡议二十六该小组应独立运作，并由下文提议的人工智能办公室以及国际电信联盟（国际电联）和联合国教育、科学及文化组织（教科文组织）等联合国相关机构组成的跨联合国系统团队提供支持。小组还应与经济合作与发展组织（经合组织）等其他国际机构领导的研究工作以及人工智能全球伙伴关系建立伙伴关系。1建议1：国际人工智能科学小组我们建议成立一个独立的国际人工智能科学小组，由该领域的多学科专家组成，以个人身份自愿任职。该小组将在拟议的联合国人工智能办公室和联合国其他相关机构的支持下，与其他相关国际组织合作，其任务包括：a)发布关于人工智能相关能力、机遇、风险和不