2024中国—东盟人工智能发展与治理合作：进展观察和推进建议

人工智能技术正引领新一轮科技革命和产业变革向纵深发展，有望重塑人类经济、社会生活的各个方面。与此同时，人工智能技术的迅速发展也带来新的安全和伦理挑战，成为全球治理的重要议题。中国与东盟是全面战略伙伴，在数字经济和智能发展领域拥有坚实的合作基础。面对人工智能的技术浪潮，中国与东盟应进一步加强合作，共同分享技术进步带来的发展红利，并尽力规避和减轻技术引发的风险挑战。 中国国际问题研究院和中国信息通信研究院组织专门力量，从全球人工智能发展与治理态势、中国的人工智能发展与治理、东盟的人工智能发展与治理、中国与东盟的人工智能合作等方面展开系统研究，并在此基础上对中国—东盟人工智能合作进行展望，形成此篇研究报告。 中国—东盟人工智能发展与治理合作 :进展观察和推进建议 中国国际问题研究院中国信息通信研究院 二零二四年十二月 目录 6全球人工智能发展与治理态势02 61016（一）人工智能技术产业发展迅速（二）人工智能技术发展不平衡问题日益突出（三）全球人工智能治理框架正在酝酿 24中国的人工智能发展与治理03 242831（一）中国人工智能技术和产业应用蓬勃发展（二）中国加快构筑人工智能治理体系（三）中国积极参与全球人工智能治理体系建设 38东盟的人工智能发展与治理04 3846（一）东盟国家人工智能发展潜力巨大（二）东盟国家人工智能治理迅速起步 56中国与东盟的人工智能合作05 5660（一）中国与东盟人工智能发展合作基础深厚（二）中国与东盟人工智能治理合作前景可期 68展望06 686970（一）推进基础设施发展，构筑智能转型基础（二）加快技术应用，共建创新生态（三）加强治理对话与合作，筑牢安全和伦理屏障 76 76附件 1 全球人工智能治理倡议 79附件 2 人工智能全球治理上海宣言 83附件 3 人工智能能力建设普惠计划 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 01前言 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 前言 人工智能技术正引领新一轮科技革命和产业变革向纵深发展。人工智能不仅可以赋能各行各业，也能够创造新的产业形态、开辟新的经济增长点，将成为影响国家综合实力和国际竞争力的重要因素。人工智能还为人类解决能源、公共卫生、城市规划、环境保护等重要问题提供新的途径。与此同时，人工智能技术的飞速发展也带来隐私、安全、伦理等多方面挑战，并可能导致国际社会“智能鸿沟”的加深，相关全球治理进程正在推进。中国与东盟是全面战略伙伴，双方地缘相邻、人文相亲、理念相近，在数字经济和智能发展领域已经拥有坚实的合作基础。双方应进一步加强在人工智能发展和治理方面的合作，深化全面战略伙伴关系，携手推进构建更为紧密的中国—东盟命运共同体建设。 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 02全球人工智能发展与治理态势 ●人工智能技术产业发展迅速●人工智能技术发展不平衡问题日益突出●全球人工智能治理框架正在酝酿 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 全球人工智能发展与治理态势 全球人工智能技术产业迎来爆发式增长，智能时代加速到来，深刻改变人类的生产生活方式。如何深化国际合作、促进人工智能发展红利普惠共享，共同应对技术应用带来的潜在风险，已成为国际社会的共同关切。 （一）人工智能技术产业发展迅速 人工智能自 1956 年达特茅斯会议诞生以来，已历经三次发展浪潮。随着 2022 年 11 月ChatGPT上线，生成式大模型又推动人工智能发展进入新阶段。据《全球人工智能产业发展白皮书（2024 年）》显示，2023 年全球人工智能产业规模达 7078 亿美元，同比增长 19.3%。a随着产业规模的不断扩张，人工智能的经济社会影响日益扩大。 1.人工智能技术发展近十年取得重大突破 人工智能技术发展迄今经历四个阶段（图 1）：由符号主义主导的萌芽探索期和专家系统期，以及由连接主义主导的机器学习期和大模型期。人工智能技术在上世纪 90 年代开始的机器学习期实现突破，开始大规模投入实践。在图像识别领域，卷积神经网络（CNN）等人工智能算法得到充分应用，通过卷积层、池化层和全连接层的组合，能够有效地提取图像中的局部特征和全局信息。2015 年，微软亚洲研究院何恺明等四名研究员研发的ResNet首次在图像识别领域超越人类。在语音识别领域，端到端的深度学习可被用于识别汉语、英语等多个语种。2015 年 12 月，百度研究院宣布其Deep Speech系统实现超越人类水平的汉语识别。在自然语言处理领域，人工智能被广泛用于文本分类、情感分析、机器翻译等任务。特别是注意力机制（AttentionMechanism）的引入，使得模型能够更好地聚焦于输入序列中的重要部分，进一步提升了处理长文本的能力。谷歌 2017 年研发的Transformer模型不仅通过自注意力机制（Self-Attention）在机器翻译任务中取得了显著的成果，还成为推动人工智能进入大模型期的关键基础。 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 2.大模型技术使人工智能初步具备一定通用性，可应用于诸多领域 随着人工智能技术发展进入大模型期，生成式大模型的崛起引发全球高度关注。这些模型通常具有少则数十亿、多则上万亿个参数，通过大规模的预训练在大量未标注数据上学习通用的特征表示，再通过微调在特定任务上进行优化。相比于传统人工智能，大模型在多个任务和场景中展现出强大的通用性和适应性（图 2）。 首先是规模可扩展性强。在大模型中，参数规模、计算量和训练数据增加可带来模型性能持续提升，而在传统人工智能模型中，规模增大不能带来性能持续提升。其次是多任务适应性强。在大模型中，一个模型能同时支持多种任务和多个模态，甚至实现跨模态，而在传统人工智能模型中，一个模型只能胜任单任务和单模态。最后是能力可塑性强。大模型通过模型微调、思维链提示等措施即可实现能力进一步增强，传统人工智能模型训练完成后能力无法进一步拓展。 3.人工智能已在众多产业领域获得深度应用 在内容创作领域，许多媒体公司和内容平台使用大模型自动生成新闻稿、文章和创意内容，提高内容生产的效率和质量。目前，在财经新闻、商业插画等领域，人工智能所生成的作品效果已得到广泛认可，可以经过微调甚至直接投入商业应用。在自动驾驶领域，智能驾驶系统能够基于摄像头、雷达和超声波传感器等收集数据、提取环境信息，如车辆、行人、交通标志等，并据此实时分析路况并调整驾驶策略，显著提高了驾驶的安全性和舒适性。在自动驾驶技术推动下，新能源汽车行业实现迅猛发展。在医疗健康领域，通过学习大量的医疗影像数据，人工智能能够辅助医生进行疾病诊断，提高诊断的准确性和效率。目前人工智能已经在利用肺部CT影像检测肺癌、识别皮肤癌、筛查眼科疾病等方面取得了显著成果。此外，人工智能还可以用于患者的个性化治疗方案推荐，通过分析患者的基因组数据、病史和生活习惯等信息，为患者提供更加精准的治疗建议。在工业生产领域，人工智能已具备沉淀专家经验、提高生产效率的能力，在替代人从事危险工作、重复劳动方面发挥重要作用，同时在CAD研发设计、智能装备等方面已经体现出明显的潜力。如在智慧矿山中，人工智能在矿山智能生产、设备管理、安全作业以及经营决策等领域发挥重要作用。在生物化学领域，大模型技术被用于蛋白质结构预测等科研工作。2024 年，谷歌DeepMind公司的丹米斯·哈萨比斯（Demis Hassabis）和约翰·乔普（John M.Jumper）因共同领导了对AlphaFold2 的开发，展现了人工智能在攻克长期悬而未决的生物学难题上的巨大潜力而荣获诺贝尔奖。在教育培训领域，数字人可以作为虚拟教师，帮助学生进行学习，指导员工完成培训，特别是对于贫困落后地区的儿童而言，人工智能技术可以增强优质教育资源的可得性，帮助有效缩小城乡差距。综上所述，人工智能已经为全球各行业创造了巨大的商业价值，催生出一批新型产业，深刻改变了人类的生产生活方式，对经济、社会产生深远影响。 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 4.人工智能将对经济社会产生更为广泛和深入的影响 人工智能技术既有提升效率、促进增长等正面作用，也潜藏着替代就业、扩大数字鸿沟等风险，需加以高度关注。从经济增长角度看，生成式大模型作为新的通用目的技术，将推动劳动生产率的提升。高盛于 2023 年 3 月发布报告认为，从历史经验看，人工智能如果能够得到普遍应用，将在 10 年内推动全球GDP年均增长 7%，或近 7 万亿美元。a从就业影响角度看，全球约有 18%的工作可能被AI自动化所取代，影响 3 亿工作岗位；但对不同行业的冲击有所差异，相较于发达经济体，新兴经济体能够被自动化替代的工作岗位较少。b从社会治理角度看，一方面大模型可以通过分析海量社会数据，帮助政府部门进行城市规划、交通管理、公共安全保障等工作。另一方面，生成式人工智能也可能因可得性不足、输出结果存在偏见等问题使弱势群体处于更加不利的地位，损害社会公平。 （二）人工智能技术发展不平衡问题日益突出 与人工智能技术快速发展和应用形成鲜明对比的是，大多数国家特别是发展中国家尚未能真正接触、使用人工智能并从中受益。联合国人工智能高级别咨询机构对来自 38 个国家的 120 余名专家的调查发现，多数专家认为人工智能将对较高收入国家更早产生积极的影响，对人工智能助力减少不平等持谨慎态度（图 3）；发展中国家获取基础 b同上。 设施、数据、模型、人才等关键要素的能力远低于发达国家。a 1.数字基础设施鸿沟明显 随着大模型、生成式人工智能技术革新，人工智能由之前的点状应用，逐步规模化发展到赋能广泛行业，对基础设施也提出了更高要求。然而发展中国家在网络接入、算力等方面仍有不小差距。一是网络接入方面，根据国际电联（以下简称“ITU”）《衡量数字发展：2023年事实与数字》报告，全球互联网连接取得稳步进展，但总体发展仍不均衡，越来越多的低收入国家被抛在后面。b2022 年，全球仍有 26亿人无法接入互联网，非洲仅有 37%的人口使用互联网，还不足美欧 中国—东盟人工智能发展与治理合作 : 进展观察和推进建议 水平（约 90%）的一半。低收入国家每个固定宽带用户的月平均流量为 161GB，仅占全球平均数据使用量 257GB的六成。5G移动网络分布不均衡，高收入国家 89%人口已被 5G网络覆盖，而低收入国家几乎没有 5G服务。网络接入水平低限制了发展中国家对人工智能服务的使用。二是算力方面，根据经合组织（以下简称“OECD”）定义，人工智能算力是指支持专门的人工智能工作负载和应用的硬件和软件堆栈，包括数据中心、超级计算机和云计算等。a根据市场调研机构Syn-ergy Research Group的数据，截至 2023 年底，全球超大规模数据中心主要集中于北美、亚太和欧洲。b大模型规模和精度提升，智能化应用场景拓展，都对算力支撑提出更高要求。据华为《智能世界 2030》报告预测，2030 年人工智能算力需求将达到 864ZFLOPS，算力需求十年百倍的增长将成为常态。c缺乏可负担的算力将限制发展中国家融入全球人工智能产业生态。 2.数据集资源分布不均 数据是人工智能模型训练的基础，也是决定其性能和专业性的关键因素。目前，大多数主流人工智能大模型都基于英语语料库训练，如ChatGPT-3 训练语料中，英语占比约 92.6%，英语、法语、德语、 a“A blueprint for building national compute capacity for AI”, OECD, February 282023, https://www.oecd-ilibrary.org/docserver/876367e3-en.pdf?expires=1728870337&id=id&accname=guest&checksum=891E32CE