人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估

对人工智能带来的机遇、风险和影响的询证评估 2026年7月 人工智能问题独立国际科学小组的初步报告：对人工智能带来的机遇、风险和影响的询证评估 版权所有© 2026联合国保留所有权利 未经出版方书面许可，不得以任何电子或机械形式或方式，包括影印、录制或任何已 知或待发明的信息存储或检索系统，复制或传播本出版物全文。 如欲转载节选内容或影印，请联系版权结算中心（copyright.com）。 如欲了解包括附属权在内的权利和许可信息，请联系：United Nations Publications, 405East 42nd Street, S-011FW001, New York, NY 10017, United States of America. 电子邮件：permissions@un.org；网址：shop.un.org 本出版物所使用的名称与材料的编排方式，并不意味着联合国秘书处对任何国家、领土、城市或地区 或其当局的法律地位，或者对其边界或界限的划分表示任何意见。 报告说明 本报告对人工智能的能力以及新出现的机遇和风险进行初步的独立科学评估，提供共同的证据基础，帮助会员国有效应对这一快速变化的技术。本报告由大会2025年第79/325号决议设立的人工智能问题独立国际科学小组撰写。该小组是首个专门研究人工智能的全球性科学机构，在严格的科学性、非政治性任务授权下开展工作，负责记录国际科学共识与分歧，保持政策相关性，但不作政策规定。本报告是首份此类报告，将在全年逐步更新。与此同时，小组将发布专题简报，反映新出现的事态发展。人工智能领域发展如此迅速，任何简要报告都必须承诺不断更新，本报告反映了发布时在这一领域所能获得的最佳证据。 免责声明： 本报告是人工智能问题独立国际科学小组的成果，其内容和发布由该小组负责。小组成员以个人身份任职，不代表任何政府或其他任何主管机构或组织。 小组对本报告所载内容拥有充分的自由裁量权。本报告及其内容代表小组成员的广泛共识；小组成员无需认可本文件所载的每项内容。小组成员申明，对于报告的结论，他们总体上表示同意，而不是单方面表示同意。 本报告不代表联合国的观点。报告中的任何内容均不得被解释为代表小组成员可能隶属的任何政府或其他任何主管机构或组织的官方意见或立场。 本出版物所采用的名称(包括地名)以及相关资料(包括引文、地图和文献目录)的编排格式，并不意味着联合国对任何国家、领土、城市或地区或其权力当局的名称和法律地位，或对其边界或疆界的划分表达任何意见，也不意味着联合国的官方认可或接受。本出版物所载有关各国行动和决定的信息，并不意味着联合国对这些行动和决定给予正式认可、接受或承认，列入这些信息亦无损于任何联合国会员国的立场。本报告所载有关特定公司的信息，或有关特定制造商产品的信息，均不意味着联合国的正式认可或推荐；报告未提及具有类似性质的其他产品，亦不构成对相关产品的认可或推荐。本出版物不影响联合国任何会员国对任何国际多边协议的立场。 2.1人工智能能力的发展速度快于衡量或监管能力的发展速度................................82.2训练前沿人工智能模型的行为体屈指可数............................................................102.3人工智能的投入和结果在地域和语言上分布不均................................................112.4人工智能鸿沟不仅关乎是否能够获取人工智能，还关乎是否有能力影响人工智能发展....................................................................122.5要使人工智能发挥作用，就必须为其提供有利的环境........................................142.6自主型人工智能是治理领域的重大变革................................................................152.7人工智能可能侵蚀共同现实....................................................................................172.8人工智能正在改变包括儿童权利在内的人权........................................................19 3.各领域研究结论................................................................................................................... 3.1人工智能科学、进展与轨迹....................................................................................203.2社会应用：科学、卫生、教育和农业....................................................................233.3经济影响....................................................................................................................253.4对安全、系统与环境的影响....................................................................................273.5人权、信息与民主....................................................................................................303.6文化与个人繁荣、自主权和儿童安全....................................................................323.7管理、治理和可靠性................................................................................................34 4.1证据缺口....................................................................................................................374.2任务范围....................................................................................................................374.3后续步骤....................................................................................................................38 人工智能问题独立国际科学小组.......................................................................................51 执行摘要 本文件力求对人工智能的风险和机遇作出平衡分析。“平衡”意味着致力于评估实证数据，不过度偏向乐观，也不过度偏向悲观。人工智能拥有巨大的潜在益处。如果能够审慎地部署和应用，人工智能可以帮助推进实现可持续发展目标，促进卫生科学发展，扩大受教育机会。与此同时，技术发展速度之快，潜在应用范围之广，给政策制定者带来了重大挑战。大规模、无节制地快速部署人工智能技术也会带来巨大风险，包括损害用户心理健康，可能被用作破坏性工具，对社会、经济和环境系统产生影响，并带来与管控此项技术相关的挑战。本报告无意于全面考虑所有可能的机遇与风险，而是重点关注其中一些最为紧迫的机遇与风险。 能力与采用 近年来，各种人工智能能力发展迅速，而且在一些领域的进展正在加快。对算力、人工智能新方法和专业训练数据的大量投入，推动了人工智能在许多方面的能力持续提升。这些能力包括：流畅对话、功能性代码生成、数学和科学领域的专家级推理、大规模数据分析，以及图像、音频和视频内容的生成。局限依然存在，例如在以下方面：可靠性、强大的跨语言和跨文化性能、与实物系统的交互、执行复杂或多步骤项目以及输出符合事实的内容；然而，总体而言，许多重要领域的技术已连续数年迅速进步，超出了人们通常对技术进展的预期。 这些进展推动了人工智能在科学、卫生、农业、无障碍环境、知识工作以及信息技术(包括人工智能本身的开发)领域的有益应用。例如，在科学领域，“阿尔法折叠”预测了超过2亿个蛋白质结构，相关数据目前已有300多万研究人员使用，加快了药物设计、疫苗研制和抗生素耐药性研究。放射科医生还利用人工智能更早地检测出乳腺癌；资源匮乏地区的一线卫生工作者则使用适配当地语言的人工智能工具，提供更优质的卫生保健服务。 人工智能的采用在各国和各行业广泛加速，但快慢不一。全球每周现在有超过10亿人使用对话式人工智能。然而，人工智能的获取和使用在全球范围内差异巨大，全球南方的采用水平远远落后于全球北方。此外，各发达经济体在计算基础设施和模型方面也存在巨大差异。这种差距反映出、甚至可能加剧现有的不平等。人工智能研发本身的集中程度甚至更高：根据近期估算，美利坚合众国占全球人工智能超级计算机500强算力的75%，中国占15%。美国和中国的公司还开发了几乎所有顶尖通用模型，少数国家掌控着人工智能计算机芯片供应链的关键投入要素。 向人工智能智能体的转变正在进行，但智能体未来会如何得到采用，又会造成何种经济影响，很可能取决于它们在人类监督很少或没有的情况下完成知识工作的能力是否持续提升。智能体是一种能够利用已有工具，进行规划并自主采取行动实现目标的计算机系统。近年来，智能体系统进步迅速。一项研究发现，顶尖智能体系统所能完成的特定软件任务长度每四到七个月就会翻一番。如果继续以这样的速度进步，智能体很快就能完成目前人类程序设计员需要数天或数周才能完成的任务。智能体能够在几乎没有监督的情况下高速工作，因此可能带来显著的经济和科学效益。例如，自驱动化学实验室 中的自主型人工智能系统已证明能将材料发现的速度提升到十倍以上。在一些研究环境中，人工智能辅助的文献筛选可能已减少约60%的工作量。因此，智能体对所有行业都具有巨大的潜在影响。同时，智能体的部署为劳动力市场、网络安全、信息生态系统以及未来人工智能系统的治理与可控性带来了紧迫的问题。 理解和管理风险 人工智能的发展伴随着风险，可能对人权、社会制度和环境产生负面影响。例如，人工智能生成的儿童性虐待材料和利用深度伪造制作的性暴力内容如今在互联网上传播更加频繁，对妇女和儿童造成尤为严重的伤害。人工智能具有谄媚行为，即人工智能输出的内容会强化用户的既有信念，不顾准确性。这种行为与多起严重心理健康事件有关联，其中包括有据可查的死亡事件。人工智能使大规模制作和精准投放具有说服力的内容(包括旨在误导受众的内容)变得更加容易，逐步侵蚀信息完整性，进而可能削弱公众信任、社会团结和民主协商所必需的共同现实。有记录显示，犯罪分子和恶意行为体利用人工智能系统协助实施网络攻击。许多这类伤害会对原本就处于弱势的人群造成不成比例的严重影响。 未来，快速提升的