2025 年人工智能能报 ： 政府行动路线图 AI(中文版)

大赦国际 ： 政府路线图 激励和推动下一代政府 世界政府峰会是一个全球平台，致力于塑造世界各国政府的未来。每年，该峰会都会为下一届政府设定议程，重点关注它们如何利用创新和技术解决人类面临的普遍挑战。 世界政府峰会是政府、未来学、科技与创新交汇的知识交流中心。它作为政策制定者、专家和人类发展领域的先驱者的思想领导力平台和 Networking 聚集地发挥作用。 峰会是通往未来的大门，它作为分析未来趋势、挑战和机遇的舞台而发挥作用。同时，它也是一个展示创新、最佳实践和智能解决方案的场所，旨在激发创造力以应对这些未来的挑战。 目录 Introduction06 为什么构建 AI 路线图如此迫切08 AI 机会14 18AI 风险 平衡风险与回报 ： 政府的作用24 Conclusion36 Introduction 人工智能（AI）正处于一个爆炸性增长的时期。然而，这项变革性的技术也带来了显著的挑战，引发了关于就业替代、偏见、隐私和环境影响的担忧。 这份报告探讨了当前的人工智能 landscape，审视其巨大的潜力和必须应对的关键风险。我们深入分析了政府在管理这项强大技术中的作用，重点关注利用其益处同时减轻其负面影响的策略。全面的方法并结合有效的政策和法规对于确保人工智能成为推动积极变革的力量至关重要，从而促进经济增长、社会进步以及更加可持续的未来。 Section 1 为什么建筑AI 路线图是如此紧急 人工智能正处于转折点。如今，这项技术的潜力空前，几乎可以改变生活的方方面面。正是由于这种巨大的潜力，世界各国政府正在制定和讨论全面的战略，以指导AI工具的负责任部署，既保护企业和消费者，又促进创新。 虽然人工智能的崛起可能感觉突然，但实际上这一过程已经持续了数十年，并且得到了计算能力显著提升的支撑。例如，2023年11月，阿联酋的G42公司和美国的Cerebras公司共同完成了Condor Galaxy 1——这台超级计算机的计算能力比此前最先进的设备高出四倍。1到2024年底，将有九台超级计算机整合成一个前所未有的单一网络。超级计算机得益于图形处理单元（GPUs）的支持，这些GPU最初是为视频游戏行业设计的，旨在提升计算机图形效果。 GPU自诩用于满足AI所需快速进行的数学计算。Condor Galaxy 1使用了超过72,000个GPU。尽管中国和美国在全球超级计算能力方面处于领先地位，但并非所有政府都有相同的资源来部署此类计算资源。欧盟联合超级计算倡议等举措有助于缓解此类挑战，同时云基超级计算也起到一定作用，但由于数据安全问题，后者通常不被政府采用。 此数据以每 TB(TB) 的 US $表示。根据通货膨胀进行调整 其他促进人工智能增长的因素包括存储和计算成本的降低。云存储如今普遍且易于获取。 可访问性增强，而弹性的云计算则在计算机处理、内存和存储方面提供了需求的灵活性。 此外，人工智能（AI）尤其是机器学习或统计学习的数学基础的进步正在推动这项技术的发展。研究人员开发了数学技术，将复杂的非线性问题转化为线性形式。 使用数值解决方案，并应用弹性云的力量来解决这些问题。像亚马逊、Facebook、谷歌和领英这样的面向消费者的公司正在利用这些先进的算法为客户提供个性化体验。 这使得组织能够更轻松和快速地利用大量未标记数据来创建基础模型。GPT-3 和 Stable Diffusion 是基础模型的例子，这些模型使用户能够利用语言的力量进行诸如根据文本提示生成文章（如 ChatGPT）或根据文字描述生成逼真图像（如 Stable Diffusion 和 ChatGPT 的 Sora）等任务。2 而现在，各类公司纷纷投入数十亿美元资金进入生成式AI领域，这一子领域属于人工智能，能够使用户根据各种用户提示或输入快速生成新的内容。这些模型生成的内容包括文本、图像、声音、动画和3D模型（如图4所示）。 生成式AI模型利用神经网络在现有数据中识别模式和结构，并生成新的内容。它们采用不同的学习方法进行训练，包括无监督学习或半监督学习。 自定义构建的生成 AI 基础模型可以启用各种其他智能解决方案 ， 如(图 5) 所示。 Environment• 已发布报告摘要和最新风险分析 • 卫星图像分析和生成 医疗保健 • 基于患者需求和情况生成的医疗AI内容和建议 • 完全自动化的药物研发 Sports• 根据表现和对手生成不同的团队和运动策略• 个性化体育评论 交通运输 • 基于交通分析和驾驶行为生成个性化驾驶员信息提示 • 交通报告总结以加快决策制定 物流• 通过分析可用空间生成仓库布局设计和存储策略 生成式AI的一个关键突破在于它展现了通用技术的三大关键特征——普及性、快速改进能力和进一步推动创新。这些技术足以对广泛行业的生产率和经济增长产生重大影响。与以往的通用技术如蒸汽机或电力不同，生成式AI的影响预计会更快，这是因为其扩散和采用相对更为容易。 我认为我们正在见证历史上最具颠覆性的力量；我们将拥有有史以来第一种比最聪明的人类还要聪明的东西。最终，我们将不再需要任何工作。 Elon Musk 与 Rishi Sunak 交谈3 Section 2 The AI机会 人工智能的能力在多个行业中创造价值。该技术可以创建新的商业模式和收入流，同时也能重塑现有流程和运营，以实现效率和卓越。 人工智能是人类正在做的最重要的事情之一。它比我不知道的电或火更深刻 Sundar Pichai4 例如，在壳牌公司，部署基于AI的预测性维护技术以管理全球超过50万台炼油阀，预计每年可减少数亿美元的维护成本并提高运营效率。5壳牌计划在全球范围内将其上游、中游和下游运营领域部署多种AI应用，潜在年节省金额可达数十亿美元。 它对医疗健康领域的影响通过医学诊断体现，并在其专业和支持服务中发挥重要作用，例如生成式AI提升呼叫中心代理和软件开发人员的生产效率。确实，由于AI在各个行业的广泛应用以提高性能并转型商业模式，它通常被称为通用目的技术（GPT）。 Oliver Wyman 最近与能源巨擘阿ramco合作，进一步展示了人工智能的强大。通过整合先进的分析、人工智能和机器学习工具，阿ramco navigating 市场波动，并以显著 margins — 每桶石油 2 美元的优势超越了竞争对手。6 ChatGPT 创造 AI 狂热 尽管企业和研究人员已经利用人工智能多年，但该技术于2022年末通过OpenAI的ChatGPT推出后才真正进入公众视野。这一大型语言模型（LLM）可能对大多数消费者来说还是一项新颖的技术，但它突然崛起也让组织和政府意识到了该技术带来的潜在积极与消极影响。确实，对所有与人工智能相关事物的热情使得提到人工智能的公司在股票市场上表现优于未提及人工智能的公司。7 最近的案例研究一致表明人工智能能够提升生产效率。众多实例展示了人工智能在科学进步方面的贡献——例如其在控制聚变反应堆中的等离子体和理解蛋白质折叠方面的作用，以及 自那以来，出现了几款类似的大型语言模型（LLM），包括谷歌的Gemini、百度的Ernie以及微软支持的OpenAI升级版的ChatGPT。人工智能的转变从“开发者”转向了更加广泛的用户群体。 从需要技术知识的“机器”领域转变为由于自然语言处理而变得更为人性化的“人类”领域，这是人工智能成长过程中的一个里程碑时刻。 尽管人工智能具有巨大潜力，但它实际带来了真实且极其重大的风险，这些风险可能会抵消其所有优势甚至更多。许多领导者认为这些风险对人类共同繁荣构成了实质性威胁，并且在长期来看甚至可能关系到人类的存亡。 从迄今为止关于AI风险的所有writings 中可以看出——确实已经写了很多——没有哪一方拥有全部的答案。另一个我明确意识到的是，AI的未来并不像一些人认为的那样悲观，也不像另一些人认为的那样乐观。 比尔 · 盖茨8 人工智能在所有关键的战略国家重要领域具有潜在影响，这促使全球政府领导人采取行动，措施包括发布国家战略和行动计划、建立人工智能协调机构以监控活动等。各国还发放研究资助，并参与公私合营，据AI政策观察站所述。包含 1,000 多个政策倡议的数据库来自经济合作与发展组织 (OECD) 维护的 69 个国家。9 医疗领域也存在AI偏见，这基于种族、 Ethnicity、性别、年龄或其他人口统计因素，导致某些群体在健康方面存在现有的不平等现象。 此外，不平等和不安全性的增加可能会进一步引发社会不稳定和政治极化。所谓的“深伪”内容，即由AI生成的图片和视频，也可能传播虚假信息和不安情绪。这可能会使公众更难以区分事实与虚构。世界经济论坛《2024年全球风险报告》将AI生成的虚假信息列为未来两年内第二大最严重的全球风险。 政府和整个社会最关心的是对就业的影响。10虽然毫无疑问人工智能将会创造新的工作岗位并要求新的技能培训，但就业流失是不可避免的。高盛估计，多达300 million个岗位可能受到最新一波人工智能的影响。11 显然，隐私权受损和政府信任的侵蚀会削弱民主制度，这是一个明显的危险。如果没有适当的约束，人工智能可能成为迄今为止对隐私和真正民主的最大威胁。 即使AI对劳动力市场的整体影响在长期内可能是积极的，过渡阶段经济困难和失业率很可能会上升。麻省理工学院经济学家达龙·阿西莫格鲁认为，除非在AI发展的范式上发生转变——包括构建对人类工人有用的AI工具而非取代他们的工具——那么劳动力市场和社会整体的净影响可能不会是积极的。这并不是一个孤立的声音。12 这并非推测。已经发生了许多与人工智能相关的事例，这些事例侵蚀了公众对政府和大型企业的信任。这包括医疗和敏感信息的数据泄露、深度合成内容（deepfakes）令人信服地传播虚假信息，以及政府人工智能系统的失败（例如，由于错误的面部识别匹配导致在美国底特律发生的错误逮捕和拘留事件）。15 关于版权侵权的问题也引起了关注，原创作品被出版商、艺术家甚至程序员未经授权使用，导致对大型人工智能公司提起法律诉讼。13 人工智能正通过引入高度复杂的算法来深刻变革网络安全，这些算法能够突破安全系统。 此外，人工智能可能使技术专业知识有限的个人有能力发起复杂的网络攻击，从而可能增加这些威胁的频率和严重性。学术界、工业界和政府领导层普遍认为，这些风险的潜在严重性与我们对其理解的局限性相结合，构成了重大挑战。即使是像比尔·盖茨、埃隆·马斯克、史蒂夫·沃兹尼亚克以及被称为人工智能之父的杰弗里·豪伊特顿这样的知名科技先驱，也对人工智能的发展和实施表达了担忧，并呼吁采取监管措施来应对这些安全威胁。 AI偏差是另一个重要问题，它会延续并放大其训练数据中已存在的偏见。例如，面部识别技术中的种族歧视已经被广泛研究，而生成式AI生成的图像显然加剧了现有的刻板印象。美国国家标准与技术研究院发表的一项研究显示，在一对一匹配中，亚洲人和非洲裔美国人面孔的假阳性率相对较高，相对于白人面孔，这一差异范围从10倍到100倍不等。14 图 8 AI 事件和争议的数量 2021 年 AIAIC 数据库中新报告的 AI 事件和争议数量是 2012年的 26 倍 与数据主权、文化独立以及广泛采用生成式AI导致的大额资金流出相关的风险（如图9所示）。 特别是针对生成式AI及其基础模型，政府寻求本地定制的基础模型以减轻相关风险。 财务影响 • 保护模型将被使用的文化环境• 控制输出叙述以与文化优先级保持一致• 避免偏向特定文化或一套规范 • 避免广泛采用生成式AI导致的大规模资金流出 • 通过提供API连接基础模型来 monetize AI服务并推出新产品与服务 • 将基础模型集成以增强现有产品 • 控制和管理境内数据 • 尊重隐私法规并确保数据处理符合当地规定 • 减少对大型模型制造商及其收集和处理的数据的依赖 示例 ： 仅回复政府客户支持服务的适当答案 示例 ： 对基础模