联合国贸易发展委员会-全球合作促进包容性和公平的人工智能（英）

1 2跨国科技巨头的统治1这项政策简报基于联合国贸易和发展会议（UNCTAD）2025年第一卷和第五卷的研究成果。2025年技术与创新报告：发展包容性人工智能（联合国出版物，销售编号 E.25. II.D.1, 日内瓦）注意：任何公司或授权程序的提及均不表示联合国表示认可。2市值数据截至2024年末；国内生产总值数据来自UNCTADstat数据库。国内生产总值是流量变量，市值是存量变量；此项比较仅为说明目的，旨在突出领先科技公司的市场规模。人工智能可以几乎部署在任何地方，跨越国界扩展其影响力。然而，其发展在很大程度上是由少数科技领导者驱动的。因此，政府需要制定政策，确保其发展服务于公共利益并使所有人都受益。国际人工智能治理倡议由发达国家主导，而许多发展中国家，尽管在未来人工智能的发展中具有重大利害关系，但对其发展轨迹的影响力有限。这种不平衡的风险可能削弱全球治理的合法性和有效性，并阻碍促进人工智能作为全球公共产品的努力。私营部门长期以来推动技术创新，但其在人工智能方面目前的理解水平和控制水平前所未有。跨国科技领导者占据主导地位，由于市场支配力的集中和通过投资初创企业或收购提供尖端技术和专业知识的创新公司以保持前沿的持续努力，其主导地位可能被视为寡头垄断。例如，2014年，Alphabet收购了总部位于英国（大不列颠及北爱尔兰联合王国）的Deep Mind研究实验室，后者在深度强化学习领域处于领先地位，并于2016年开发了首个击败世界围棋冠军的程序；以及在2019年，微软与OpenAI建立了合作关系，后者开发了ChatGPT[生成式预训练变换器]，并在2022年以超过190亿美元收购了Nuance Communications，该公司专注于大规模语音应用，并支持了苹果Siri语音助手的发展。此外，通过与用户和数字设备的互动，科技领导者正在建立日益庞大和有价值的数据集，使他们能够将竞争优势扩展到核心业务领域。为保障人工智能普惠且有益于每个人，同时促进创新以推进可持续发展，采取包容性和多方利益相关者方法是必要的。在保障普惠性同时促进创新，需要将问责机制纳入全球人工智能治理，以使其发展与共同目标和价值观相一致。此外，国际合作至关重要，特别是关于人工智能转型三大关键驱动因素，即数字基础设施、数据和技能。1领先的前沿技术提供者是按市值计算的全球最大企业之一（图1）。截至2024年底，苹果、英伟达和微软的市值均超过3万亿美元，相当于非洲大陆或英国（全球第六大经济体）的国内生产总值（GDP）。2值得注意的是，全球排名前10的几乎所有公司都在进行大量的人工智能投资。 (万亿美元)全球市值，截至2024年底来源：联合国贸易和发展会议，基于公司市值数据。Meta Platforms (Facebook)图1技术领袖的市场主导地位：前十大上市公司3欧文斯 B，2024，《反对利润驱动的机器学习》，自然，633(8030)：S6–S9；联合国贸易和发展会议，2021，2021年技术与创新报告：乘技术浪潮——具有公平性的创新（联合国出版物，销售号 E.21.II.D.8，日内瓦）4Beraja M, 彭 W, 杨 DY 和 Yuchtman N, 2024年, 政府作为人工智能的风险投资家, 工作论文No. 32701, 美国国家经济研究所。5阿明·N，瓦赫德·M和汤普森·NC，2023，《人工智能研究的行业影响力日益增长》科学，379(6635):884–886.6斯坦福大学，以人为本的人工智能研究所，2024，人工智能指数报告2024(斯坦福，美国).7联合国贸易和发展会议，2021年，数字经济报告2021：跨境数据流动与发展——数据流动为谁而动（联合国出版物，销售编号 E.21.II.D.18，日内瓦）。8阿明等，2023；参见https://policy-practice.oxfam.org/resources/inequality-inc-how-corporate-power-divides-our-world-and-the-need-for-a-new-era-621583/.私营公司主导人工智能投资，2021年全球行业支出超过3400亿美元，超过公共资金。相比之下，美利坚合众国政府机构（不包括国防部）投资了15亿美元，欧洲委员会投资了11亿美元。中国政府通过过去十年中各种政府支持计划，为人工智能相关企业增加了支持，总额达到2100亿美元。4此外，私营企业吸引了大部分顶尖人才；2004至2020年，北美大学在人工智能相关领域获得博士学位的毕业生进入工业界的比例从21%增加到70%。5私营部门也负责大多数前沿研究，并生产大多数机器学习模型；政府和学术界合计拥有的模型数量不到产业部门发布模型总数的一半。在赢家通吃的环境中，这种市场支配地位尤其令人担忧，因为领先玩家获得了大部分利益，并拥有消除潜在竞争或控制信息流和收入的资源。他们的优先事项可能与公共利益相背离，有可能将社会引向次优发展道路。8例如，人工智能的发展和采用倾向于取代人力而非增强 3367 42/71/70/77/76/75/74/73/7(盒子大小与每类国家数量成正比)图 2118个国家，主要在全球南，不是任何一方参加采样倡议或工具人类能力，反映的是经济和商业激励，而不是社会需求。9以利润为导向的公司也可能忽视诸如偏见、虚假信息和缺乏透明度等道德问题。此外，科技公司越来越多地塑造监管和政策议程，扭转了公共政策决定游戏规则的权力平衡。来源：翻译文本：联合国贸易和发展会议注意：对于所考虑的举措，参见UNCTAD，2025年，第五章，可在https://unctad.org/publication/technology-and-innovation-report-2025下载。发展中国家在全球治理中的代表性不足国际人工智能治理倡议主要是由七国集团成员推动的：国家参与，从0到7个倡议尽管对全球合作的必要性认识日益增长，但目前的人工智能治理格局仍然碎片化。主要的非联合国国际倡议由七国集团成员国领导，而118个国家（大多来自全球南方）尚未加入任何这些倡议（图2）。10发展中国家有限度的代表对全球人工智能治理的合法性和有效性构成重大风险。针对市场垄断及其更广泛的社会影响，德国、印度、日本、韩国、英国、美国和欧盟等多个司法管辖区已启动反垄断调查。然而，小国，特别是发展中国家，可能缺乏制度能力和经济实力，导致执法和监管面临挑战。更强的国际治理和协调监督有利于促进连贯政策框架的发展，并有助于缩小各国之间的制度差距。9阿西莫格鲁 D 和 约翰逊 S，2023，力量与进步：我们关于技术与繁荣的一千年斗争(公共事务 (阿歇特出版社), 纽约).10参见 https://www.un.org/sites/un2.un.org/files/governing_ai_for_humanity_final_report_zh.pdf。 519932016201720212024多利益相关方平台道德标准全球决议新举措联合国教科文组织联合国大会关于人工智能的决议：面向未来的契约致力于新举措：委员会科学与技术开发（CSTD）将AI引导至全局善推荐在伦理学上艺术智能建立多学科独立国际科学ai面板增强国际合作on能力建设人工智能准备状态评估方法论启动全球人工智能对话治理多方利益相关者科学论坛技术和创新对于可持续发展目标(STI 论坛)设置一个专用的工作组 on数据治理AI for Good 全球峰顶道德影响评估11联合国大会, 2024, 关于未来的公约, A/RES/79/1, 纽约, 9月22日。12参见 https://unctad.org/topic/commission-on-science-and-technology-for-development/working-group-on- data-governance。图 3联合国在全球人工智能治理方面的主要工作源文件：翻译文本：联合国贸易和发展会议缩写：联合国教科文组织,联合国教育、科学及文化组织。联合国在全球人工智能治理讨论中做出了重要贡献（图3）。2024年，大会通过了两个关键决议，分别是关于利用安全、可靠、可信赖的人工智能系统促进可持续发展以及加强国际人工智能能力建设合作。此外，《未来公约》中，成员国承诺支持科学、技术和创新领域的国际合作，并加强联合国监测和衡量全球进展的能力，以缩小发达国家与发展中国家之间以及发展中国家的内部科技差距，还通过分享最佳实践支持人工智能治理方法之间的互操作性和兼容性。11成员国致力于建立人工智能独立国际科学专家组，通过基于证据的影响、风险和机遇评估来促进科学认知，并启动人工智能治理全球对话。此外，成员国要求发展科学和技术委员会建立一个专门工作组，就数据治理开展全面包容的多利益相关方对话。12 6人工智能公开发布机制图4来源：联合国贸易和发展会议。影响评估跨参与方在整个人工智能生命周期中执行不合规处罚对人工智能部署的限制人工智能公开披露机制披露认证系统自愿报告到强制报告需要一种公共披露机制，以确保问责制为确保公平包容的全球人工智能治理，所有参与人工智能研发和部署的相关方都应明确界定角色，并对自身行为负责。在这方面一个关键步骤是建立人工智能公共披露机制，该机制可以借鉴目前许多证券交易所强制执行的ESG报告框架。此类机制可包括在整个人工智能生命周期中开展的影响评估，以评估其对环境、人权、就业和包容性的影响，包括模型训练和运行过程中的能源消耗和用水量以及相关的数据中心冷却水平。13此外，此类机制应要求就人工智能系统的运作方式以及数据的收集、使用和管理情况进行详细报告。随着标准和框架的成熟，信息披露要求可以从自愿性演变为强制性，确保全面、标准化和透明的报告，并辅以监督和执行措施（图4）。人工智能公共披露要求应平衡创新与公共安全及信任。过度监管可能会减缓技术进步，但监管不足可能会带来重大风险，并使追究公司13参见联合国贸易和发展会议，2024，数字经济报告 2024：塑造一个环境可持续和包容的数字未来（联合国出版物，销售编号 E.24.II.D.12，日内瓦）。 公开报告算法透明度数据与风险管理 7123有责任的。要实现这种平衡，需要采取多利益相关者方法，才能融入多元视角和灵活性，同时适应快速发展的技术。应关注弱势群体，他们可能受益于人工智能的进步，但更有可能经历人工智能相关危害。需要数字经济领域的国际合作基础设施、数据和技能人工智能的迅速发展得到了以下三个关键驱动因素：数字基础设施通过提高计算能力日益具有成本效益的信息传输。数据涵盖着重要、多样且快速增长的大量编码信息。技能从基本的数字素养到所需的高级专业知识开发并部署复杂的人工智能模型应用程序。这三个领域的国际合作对于公平分享与人工智能相关的利益。通过汇集 合作关于资源和知识，可以帮助应对持续性的挑战面临许多发展中国家，包括与数字不足相关的问题基础设施、数据获取有限以及数字和技术技能短缺。这种合作对于防止碎片化、避免重复至关重要为减少努力并降低使用人工智能会增加风险国家之间和国家内部的差距。 8共享数字公共基础设施。一个全球共享设施，例如按照欧洲的模式开放式创新模式，如开放数据和开源，可以帮助民主化知识和资源，以培养包容性的人工智能相关创新。协调和统一开源人工智能工作，并对可互操作的存储库采用通用标准，可以帮助增强全球知识库，并通过可信中心改善访问。例如，二十国集团研究与创新发展工作组发布的马瑙斯包包括一个开放式创新战略，旨在促进科学、技术和创新领域的国际合作，并提出了包容性和公平的开放式创新计划的原则、方法和工具。该战略可以指导全球存储库的创建，以支持人工智能在社区中的更广泛传播，并得益于公平且可互操作的数据治理安排。协作可能发生在以下领域：欧洲核子研究组织（CERN），作为运营世界上最大粒子物理实验室的政府间组织，可以为人工智能基础设施提供公平的访问渠道。“CERN for AI”模式可以基于国际合作、开放科学、开放获取以及资源和专业知识的共享原