2020全球人工智能行业治理体系报告

中国信息通信研究院政策与经济研究所 人工智能与经济社会研究中心 2020年12月全球人工智能治理体系报告 （2020） 版权声明 本报告版权属于中国信息通信研究院和人工智能与经济社会研究中心，并受法律保护。转载、摘编或利用其它方式使用本报告文字或者观点的，应注明“来源：中国信息通信研究院和人工智能与经济社会研究中心”。违反上述声明者，编者将追究其相关法律责任。 pOyQmMzRsQnQpQmMmRsMrNbRaO7NpNnNsQrRfQoPpNeRtQqQ7NtRmNwMsRoNvPmNpN 前 言 人工智能作为引领新一轮科技革命和产业变革的战略性技术，正在重塑生产方式、优化产业结构、提升生产效率、赋能千行百业，推动经济社会各领域向智能化加速跃升。但“每个硬币都有正反面”，人工智能在为人类生产生活带来诸多便利的同时，也在触发如泄露个人隐私、冲击就业格局、危害公共安全等风险问题，给社会治理带来全新挑战。人工智能治理这一概念应运而生，推动构建全球人工智能治理体系正在成为各方共同诉求，国际组织积极探索全球性伦理原则并推动各方达成共识，各国政府基于各自产业发展特点采取不同的治理思路及举措，行业组织着力构建全面、有效的人工智能标准规范体系，科技企业则更加关注如何将伦理原则落地践行于自身产品及服务之中。 为更好地认识和推动人工智能治理实践，加快构建适宜人工智能产业发展的治理体系，中国信息通信研究院政策与经济研究所研究团队开展研究并形成本报告。主要包含以下内容：第一部分分析了人工智能对经济社会发展带来的促进作用及风险挑战，剖析了人工智能治理的痛点及难点；第二部分梳理总结了全球部分国家及地区的人工智能治理进展及特点；第三部分从治理目标、治理主体、治理手段、治理评价等维度，提出了构建人工智能治理体系的设计思路；第四部分提出了持续完善我国人工智能治理体系的几点思考。期待本报告能够为社会各界提供有价值的参考，不妥之处请不吝指正。 目 录 一、人工智能带来全球治理新挑战 ............................................................................ 1 （一）人工智能引领经济社会智能化变革 ......................................................... 1 （二）人工智能引发经济社会多方面风险挑战 ................................................. 3 （三）多重因素提升了人工智能治理难度 ......................................................... 5 二、全球主要国家和地区高度重视人工智能治理 .................................................... 6 （一）全球人工智能治理呈现深入发展之势 ..................................................... 7 （二）不同国家和地区人工智能治理各有侧重 ................................................. 9 （三）我国人工智能治理稳步推进、成效明显 ............................................... 12 三、推动构建人工智能治理体系的思考 .................................................................. 13 （一）秉持科技造福人类、安全与发展兼顾的治理目标 ............................... 14 （二）打造政府、市场、公众多方协同共治的治理模式 ............................... 14 （三）综合运用伦理引导、技术应对、规范立法等治理手段 ....................... 16 （四）构建覆盖全面、反馈及时的治理效果评价机制 ................................... 17 四、持续完善我国人工智能治理体系 ...................................................................... 17 （一）加大政策支撑力度，持续优化治理环境 ............................................... 18 （二）深化治理规则研究，提升治理能力 ....................................................... 18 （三）明确不同阶段治理重点，完善治理路径 ............................................... 19 （四）加强国际交流合作，参与全球治理议题 ............................................... 20 附表1. 主要国家及地区设立的人工智能治理专门机构 ........................................ 21 附表2. 人工智能伦理原则及规范相关文件举例 .................................................... 22 附表3. 人工智能标准化文件举例 ............................................................................ 24 全球人工智能治理体系报告（2020） 1 一、人工智能带来全球治理新挑战 当前，新一轮科技革命和产业变革正在深入发展，人工智能作为有望引领未来变革的战略性信息技术，在实现快速发展、广泛应用的同时，也带来了安全、隐私、公平等诸多新问题新挑战。全球各国纷纷呼吁加强人工智能治理，营造规范、健康、可持续的发展环境。 （一）人工智能引领经济社会智能化变革 人工智能至今历经三次发展浪潮，当前已成为科技创新、经济发展、社会进步、民生改善的重要驱动力量。人工智能是研究类人机器或系统的科学技术。这类机器或系统在某种程度上具有可替代人的智力或行为能力，其发展及应用将对人类的经济社会发展产生深远影响。人工智能一词源于1956年召开的美国达特茅斯会议，在60多年间经历了三次发展浪潮。在前两次浪潮中，由于人工智能的商业化价值和社会关注程度较低，国家与社会投入有限，加之理论技术未成熟、数据及算力等基础支撑不足、应用场景受限等问题，并未达到预期发展效果。随着新兴信息技术的快速发展，特别是机器学习算法的革新、海量数据的积累、计算能力的提升和新基建的演进，全球迎来了新一轮人工智能发展浪潮。当前，以深度学习、跨界融合、人机协同、群智开放、自主操控为特征的新一代人工智能技术持续创新突破，在促进科技创新、培育新兴产业、改造升级传统业态、加快实体经济转型等方面的作用日益突显。 人工智能将促进新工具与新技术的研发，提升社会生产效率。人类劳动经过手工劳作、工具使用、动力转换三大阶段，即将进入智能 全球人工智能治理体系报告（2020） 2 替代的全新生产时代。第一次生产力升级是专用生产工具的发明，将人类生产效率大幅度提升。第二次生产力升级拉开了自动化的序幕，利用化学能、电能、原子能替代人类的生物能，人类劳动由体力向脑力转变。而人工智能引领的第三次生产力升级本质上延续了自动化的替代过程，通过计算机、机器人及大数据等信息技术的应用实现对脑力劳动的部分替代。例如半导体材料试验、药品成分配比、电子方案设计等研发工作已经有了人工智能成功应用的案例，提升了新工具和新技术的研发效率，进而实现社会生产效率的跃升。 人工智能挖掘数据资源价值，形成全新的生产要素。互联网时代产生了纷繁的数据信息，而人工智能技术将数据转化为价值。数据资源在人工智能、大数据 等技术的价值挖掘下，对个人需求分析、企业商业贸易、国家政策制定都有重要的支撑作用。由于数据资源正处于开发应用的初期，拥有较高的边际效益，对国民经济增长具有较强的促进作用。数据资源的挖掘为人类开辟了认识世界的新维度，为人类带来了新思想与新理论的原料，为科学技术发展带来了新的可能性。 人工智能赋能传统产业，推动国家经济智能化转型。在传统生产层面，人工智能结合物联网技术增强感知能力，拓展智能机器人与智能工厂应用场景，精准追踪与控制生产流程，使得 自动化生产与运输成为未来的主流。在供需对接层面，人工智能结合5G等宽带网络为生产端和消费端架起了一座桥梁，助力普及个性化、可配置的生产方案，孕育全新的衍生设计方法。按需定制生产有助于缓解低端产能过剩问题，同时为传统产业高端转型构建新的发展路径。在企业经营层 全球人工智能治理体系报告（2020） 3 面，智能管理方式重塑传统产业的组织方式，提高员工的生产效率，确保供应链稳健，降低运营成本，优化运作管理流程。 人工智能催生智能产业新业态，激发用户新的消费需求。在创新商业新模式上，智能营销依托大数据分析用户的生活模式，挖掘消费者的潜在需求，帮助企业进一步拓展市场规模。在带动产业新发展上，人工智能有效促进上游关联产业发展，智能芯片、智能存储、智能传感等智能硬件带动基础硬件产业的性能指标升级，智能算法框架、数据交换平台等智能软件营造了开放自由的软件研发环境。在创造消费新空间上，智能音箱等新的人机交互方式以及智能信息服务、智能金融等人性化的互动体验等，激发消费新需求。 （二）人工智能引发经济社会多方面风险挑战 但“每个硬币都有正反面”，人工智能技术在迅速赋能经济社会发展的同时，也引发了安全、社会、法治 等不同层面的风险挑战。究其根本原因，在于人工智能所产生的技术异化1或将导致治理盲区出现、算法歧视产生、责任主体模糊等多维度治理困境。 一是引发安全风险，技术的不可控将导致侵犯隐私、甚至侵害生命等事件发生。首先，人工智能技术极易被滥用，导致虚假信息频发、不良信息泛滥，加大数字内容治理难度。例如某些应用软件利用深度伪造技术实现图像、音视频的生成或修改（如AI换 脸 ）， 使不良信息内容的“以假乱真”，甚至抹黑政治人物，扰乱网络空间秩序。其次，利用人工智能技术进行数据收集与分析时可能会挖掘出个人敏感信 1 《哲学大辞典》对“异化”的释义：异化作为社会现象，与阶级一起产生，是人的物质生产与精神生产及其产品变成异己力量又反过来统治人的一种社会现象。 全球人工智能治理体系报告（2020） 4 息并加以利用，在转移与传播阶段可能会在未经用户允许的情况下将数据传递给第三方机构，导致用户隐私泄露。例如某视频类应用在用户录制小视频时窃取其面部等生物识别信息，给用户造成隐私风险；某互联网公司收集儿童和青少年个人信息用于定向推送广告等。再次，智能音箱、自动驾驶汽车等智能产品还未完全成熟，导致安全事故的发生概率大增，甚至威胁到人类生命安全。例如特斯拉、优步等自动驾驶汽车均发生过交通事故；某智能音箱产品曾诱劝主人自杀等。此外，若未来人工智能被武器化、军用化（如侦察机装载AI系统），还将导致人类面临生命安全威胁。美国 布鲁金斯学会专家于近期指出，若人工智能武器系统被无限制的扩散使用（甚至被极端组织分子使用），将给国际安全局势造成严重混乱与威胁。 二是引发社会风险，就业替代性等导致贫富差距加大、社会不公平性加深。有观点认为，人工智能作为先进生产力之一，将替代技术含量较低的重复性、流程性工作岗位（如电话销售员等），导致结构性失业等问题，甚至有悲观者认为人工智能将会在人类社会中产生一批史无前例的“无用阶层”。例如，牛津大学研究团队利用应用概率分类模型估计了美国702种职业未来被计算机替代的可能性，发现其中47%的岗位处于高度被替代风险；美联社曾调查指出其有近九成的文章可以采用机器