中国人工智能伦理风险白皮书

目录 版权声明 前言 1 一、人工智能方兴未艾，风险防范未雨绸缪4 本报告版权属于中国联合网络通信有限公司研究院，并受法律保护。转载、摘编或利用其他方式使用本报告文字或者观点的，应注明“来源：中国联通研究院”。违反上述声明者，本院将追究其相关法律责任。 （一）数字经济发展孕育人工智能全面成长（二）人工智能高歌猛进，融入百业大显身手（三）中国 AI 快速应用，发展举世瞩目（四）伦理规范有利于人工智能长治久安46913 二、他山之石可以攻玉，先进经验学习借鉴20 （一）国际 AI 伦理研究现状（二）国际 AI 伦理研究贡献及未来走向（三）全球主要国家 AI 政策（四）全球智者的观点（五）全球头部企业的选择和态势2021232629 三、居安思危如履薄冰，杜绝风险伦理安全34 （一）伴随社会和技术进步，AI 伦理安全理念与时俱进（二）加强监管，防范失控性风险（三）完善法规，杜绝侵权性风险（四）确保透明公正，规避歧视性风险（五）加强培训教育，缓解人类失业风险（六）促进政策公平和广泛合作，抹平数字鸿沟风险（七）构建指导原则，减少人类道德价值观受损风险（八）展望未来伦理演进，探索 45°平衡律3435394245485256 四、金砖国家扩展加盟，伦理安全展望新篇59 （一）金砖国家应正视 AI 伦理风险（二）金砖国家需合作应对共同挑战5960 参考文献63 附录66 前 言 2023 年，我国经济社会发展遭遇国内外多重超预期因素冲击，风险挑战前所未有。中国的数字经济克服了重重困难，取得了长足的发展，人工智能更是如耀眼的明珠，在各行各业中广泛应用，凸显了新质生产力对经济的推动、带动了人类文明的发展。人工智能的突破性成就带动了人工智能应用的快速蔓延，数字经济的快速增长有了新的引擎，通信产业等数字基础设施有了长足的进步。同时，数字经济也给人工智能技术进步带来新的需求和宽广的市场。 人工智能已经成为我们生活中不可或缺的一部分。从智能手机、自动驾驶汽车到医疗诊断和金融交易，AI 的应用已经深入到社会的各个角落。然而，人工智能技术的应用在给人们带来生活和工作便利的同时，也带来了一系列伦理风险与挑战。AI 伦理研究，就是在这样的背景下应运而生，旨在探索和定义 AI 的道德边界。 人工智能伦理研究是一个跨学科的领域，它探讨 AI 带来的伦理问题及风险，研究解决 AI 伦理问题，以促进 AI 向善并引领其健康发展。这种研究领域涉及到哲学、计算机科学、法律、经济等众多学科的交汇碰撞。 中国新一代人工智能发展规划推进办公室于 2019 年专门成立了新一代人工智能治理专业委员会，全面负责开展人工智能治理方面的政策体系、法律法规和伦理规范研究和工作推进。这体现了我国对人工智能伦理及其治理的密切关注程度和积极推进决心，同时也突显了这一问题的重要性。 前瞻研究和制定人工智能伦理规范有助于更好地发挥其“头雁”效应，对产业健康发展、人民幸福生活具有重要意义。在智能时代，人与机器的关系将会被重新定义。因此，国务院关于印发新一代人工智能发展规划的 通知中专门强调要探索建立无人驾驶、在线医疗、金融科技、智能配送等监管框架，完善相关法律法规和伦理审查规则。 编写组成员 国家新一代人工智能治理专业委员会 2021 年 09 月 25 日发布了《新一代人工智能伦理规范》，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。 牵头编制单位： 中国联合网络通信有限公司研究院、中国联通国际有限公司 专家指导委员会： 唐永博中国联合网络通信有限公司副总裁孟树森中国联通国际有限公司董事长兼总经理李红五中国联合网络通信有限公司研究院院长陈辉金砖国家未来网络研究院（中国·深圳）院长魏进武中国联合网络通信有限公司研究院副院长张立仁金砖国家未来网络研究院（中国·深圳）副院长 本文首先描述了 2023 年人工智能的数字化环境，这既是人工智能发展推动的结果，也是人工智能发展的广阔需求，人工智能的伦理问题，也在其具体的应用中发生了警示和碰撞。接下来本文介绍了常见的人工智能应用，呈现了 2023 年中国人工智能欣欣向荣的社会画卷。本文还介绍了人工智能伦理的内涵、研究范围、国外人工智能的发展情况、各国政策、智者和头部企业等在人工智能伦理方面的观点，以资参考、借鉴。 编写成员： 康旗、刘亚琪、金春花、吴钢、吕金宝、傅瑜瑜、余东海 本文随后具体描述了伴随人工智能的应用产生的潜在人工智能风险，在应用性能效益和风险的二维平面上，我们审慎地认为，兼顾二者的 45 度角发展方向可能会是未来人类的选择，并提出了预防和应对的建议以供读者参考。 参与编制单位： 金砖国家未来网络研究院中国分院 最后，考虑到金砖国家人工智能方兴未艾，提出了几点简单的建议，我们相信，在这飞快变化的时代，金砖国家正不断壮大发展，在世界政治经济的地位日益突出，在人工智能这个科技高地上的共识和合作，将有效规避人工智能的伦理风险，极大地促进金砖国家的经济增长和社会进步。 包括数据中心、智算中心、超算中心等多种类型。截至 2023 年底，智能算力规模达到 70EFLOPS，增速超过 70%。全国累计建成国家级超算中心 14 个，全国在用超大型和大型数据中心达 633 个、智算中心达 60个（AI 卡 500 张以上），智能算力占比超 30%。 一、人工智能方兴未艾，风险防范未雨绸缪 2023 年人工智能（下文简称 AI）的快速发展，是人类生产力的一次跳跃。一方面，AI 给数字基础设施的建设带来直接的刺激和需求，数字经济的发展空间也得到大大提升，另一方面，数字经济的强大需求拉动了 AI 的研发，数字经济的广泛市场也给 AI 带来一望无垠的试验田，AI 的伦理问题研究就是在这样的背景下展开的。 ( 一 ) 数字经济发展孕育人工智能全面成长 2023 年是数字中国战略深入实施的关键一年，数字中国建设的基础更加稳固，赋能经济社会发展的效果显著。 1、数字基础设施扩容提速 网络基础设施进入提速升级新阶段。5G 网络覆盖面更广、技术更先进，并加速向重点场所深度延伸。截至 2023 年底，5G 基站数达337.7 万个，同比增长 46.1%；平均每万人拥有 5G 基站 24 个，较上年末提高 7.6 个百分点；5G 移动电话用户数达 8.05 亿，在移动电话用户中占比 46.6%；5G 虚拟专网数量超 3 万个。基础电信企业 IP 骨干网、城域网、接入网 IPv6 改造全面完成，全国网络基础设施已全面支持IPv6。截至 2023 年底，IPv6 活跃用户数达到 7.78 亿，移动网络 IPv6流量占比达到 60.88%，固定网络 IPv6 流量占比达到 19.57%。 2、数字技术创新活力涌现 基础数字技术能力持续增强。数字技术领域保持较高的创新热度。先进计算、人工智能等关键核心技术不断取得突破。高性能计算持续处于全球第一梯队。智能芯片、通用大模型等创新成果加速涌现。人形机器人进入提速发展阶段，专利申请数量增长较快。人工智能核心企业数量超过了 4500 家。量子计算机、脑机接口等前沿技术的研发进度不断加快。 算力基础设施达到世界领先水平。截至 2023 年底，中国在用数据中心标准机架超过 810 万架，算力总规模达到 230EFLOPS，居全球第二位。8 个国家算力枢纽节点进入落地应用阶段。算力供给结构逐步优化， 算力网络实现阶段性跃升。积极落实国家东数西算战略，持续完善全国性算力网络布局，截至 2023 年底，三家基础电信企业为公众提供 的数据中心机架数达 97 万架，比上年末净增 15.2 万架，净增量是上年的近两倍，可对外提供的公共基础算力规模超 26EFlops( 每秒万亿亿次浮点运算 )。 域的应用日益广泛，为各行业带来了更高效、智能的解决方案。 2、大模型的发展：随着深度学习技术的不断进步，大型神经网络模型在各领域取得了显著成果，提高了 AI 的准确性和泛化能力。 构建人工智能（AI）基础设施体系。内部应用与外部赋能相结合探索 AI 应用新模式，推动“云网智”融合发展，全面向“AI+”战略转变。在网络规划 - 建设 - 维护 - 优化等网络运营各环节引入 AI 和大数据技术，提升网络智能化水平，减低网络故障率、节约基站能耗、优化信号覆盖。三家基础电信企业积极构建“1 个通用 +N 个专用”的通专结合大模型体系，通用大模型达千亿级参数级别，行业大模型可面向政务、应急、文旅等多个领域。 3、跨领域融合与创新：AI 技术与其他领域的融合进一步加深，如生物学、物理学、心理学等，推动了各行各业的创新发展。 4、强人工智能的发展：AI 逐渐向强人工智能发展，使得 AI 能够理解、思考和感知，甚至在某些方面超越人类的能力。 5、AI 与人类协作：AI 技术正逐渐与人类形成协同作战的局面，如在医疗、法律、教育等领域，AI 辅助专业人士进行工作，提高工作效率和质量。 总之，2023 年以来，AI 在全球范围内取得了重要进展，为人类带来了诸多便利和价值。 ( 二 ) 人工智能高歌猛进，融入百业大显身手 2023 年，人工智能领域发生了许多重大事件，深刻地影响了我们的生活和社会，2023 年被誉为“AI 时代开启元年”，人工智能技术的创新与应用突飞猛进。其中，生成式人工智能的出现是最具代表性的进展，例如 OpenAI 推出的 ChatGPT 订阅版、NVIDIA 的 BioNeMo 平台，以及 AWS 的‘AIReady’培训计划。这些技术改变了人工智能技术与应用的发展轨迹，加速了人与 AI 的互动进程，是人工智能发展史上的新里程碑。特别是 ChatGPT 的火爆反应，让全球见证了人工智能技术的突破性发展和广泛应用。 以下是人工智能（AI）在全球范围内的应用取得的进展： 1、AI 与各行各业的融合：AI 技术在金融、医疗、教育、交通等领 ( 三 ) 中国 AI 快速应用，发展举世瞩目 2023 年以来，中国在人工智能领域取得了显著的进展和成就，不仅在技术研究上实现了重大突破，而且在产业发展和国际合作方面也展现出了强大的实力和影响力。 1、政策支持与战略规划 2023 年 02 月 26 日中国政府发布了《数字中国建设整体布局规划》，强调了人工智能在数字化转型中的重要性。 规划的主要目标：到 2025 年，基本形成横向打通、纵向贯通、协调有力的一体化推进格局，数字中国建设取得重要进展。到 2035 年，数字化发展水平进入世界前列，数字中国建设取得重大成就。 规划的主要内容：数字基础设施高效联通，数据资源规模和质量加快提升，数字经济质量效益大幅增强，政务数字化智能化，数字文化建设跃上新台阶，数字社会精准化普惠化便捷化，数字生态文明建设取得积极进展，数字技术创新实现重大突破，数字安全保障能力全面提升。 《新一代人工智能发展规划》在 2017 年由国务院印发。由国家发展改革委、科技部、工业和信息化部等部门共同负责实施。该规划明确了我国新一代人工智能发展的战略目标、重点任务和保障措施，为推动AI 技术的广泛应用和产业化提供了政策指导。《新一代人工智能发展规划》提出了“三步走”的立法规划，并在 2023 年 6 月 6 日发布的《国务院 2023 年度立法工作计划》中明确将《人工智能法》列入立法规划。2023 年 8 月，世界上第一个有关生成式人工智能的成文法《生成式人 2、技术研究与创新 工智能服务管理暂行办法》生效实施。 《关于加强科技伦理治理的意见》在 2022 年由中共中央办公厅、国务院办公厅印发，2023 年主要负责部门科技部进行了实施部署，同时涉及国家发展改革委、教育部、工业和信息化部等，他们共同参与科技伦理治理工作，针对 AI 技术在发展过程中可能面临的伦理风险，该意见提出了加强科技伦理治理的要求和措施，确保 AI 技术的健康发展。在战略规划方面，政府部门、信息化骨干企业、互联网