2024人工智能治理专题：CIDEG 研究通讯第20期-清华大学产业发展与环境治理研究中心

（人工智能治理专题） 清华大学产业发展与环境治理研究中心编2024年06月 【专题研究】..........................................................................................................................................3 《人工智能算法影响评价体系构建与应用实践》...................................................................................................3 【相关研究】..........................................................................................................................................6 GIHI2023系列解读6|人工智能专利爆炸式增长！北京、粤港澳大湾区等中国城市成为全球人工智能技术发展主要力量...............................................................................................................................................................6 【专家观点】..........................................................................................................................................9 薛澜：人工智能发展的治理挑战...............................................................................................................................9季卫东：人工智能治理国际合作的重要性.............................................................................................................12贾开：ChatGPT是更接近人脑的智能技术吗？....................................................................................................13薛澜教授对话AshleyLlorens：推动人工智能正向发展，跨领域与国际合作至关重要...................................14 【学术活动】........................................................................................................................................19 CIDEG产业经济系列研讨：算法影响评价体系构建与生成式人工智能安全治理...........................................19 《信息技术与管理应用》贾开：ChatGPT作为“浅层革命”的进步与局限——兼论通用智能与“人-机关系”20《中国行政管理》薛澜、贾开、赵静：人工智能敏捷治理实践——分类监管思路与政策工具箱构建...........21《国际论坛》贾开、俞晗之、薛澜：人工智能全球治理新阶段的特征、赤字与改革方向........................22《数字法治》季卫东、赵泽睿：人工智能伦理的程序保障..............................................................................25 【学者动态】........................................................................................................................................28 薛澜教授出席2024中国发展高层论坛：人工智能面临治理挑战........................................................................28薛澜出席2024中关村论坛：人工智能安全上路，首先装好“刹车”....................................................................29 【编者按】 人工智能（AI）的应用范围日益广泛，涵盖医疗健康、自动驾驶、金融、教育等多个领域，充分展现了其巨大的潜力和价值。随着AI技术的迅猛发展，我们也面临着诸多挑战，诸如伦理道德、数据隐私保护、算法偏见、安全风险以及对劳动市场的潜在影响等。AI发展的治理问题，已成为当前科技与社会进步的核心议题，创新算法治理理念和机制成为当前亟待解决的重要课题。 为此，清华大学产业发展与环境治理研究中心（CIDEG）针对算法治理问题，于2022年设立了《人工智能算法影响评价体系构建与应用实践》专项研究。由上海交通大学国际与公共事务学院长聘副教授、CIDEG兼职研究人员贾开主持。该研究旨在构建适应不同算法治理目标的影响评价体系，明确算法治理风险的类型内涵及其指标测度，为算法治理实践改革提供坚实的理论基础和实践指导。 除此之外，CIDEG与自然科研（NatureResearch）团队联合开发的《国际科技创新中心指数》（GIHI）2023报告中，也对人工智能领域的相关研究进行了专项评估。特别是关于人工智能专利的爆炸式增长，以及中国城市如北京、粤港澳大湾区在全球人工智能技术发展中的重要地位等分析，为我们提供了丰富的数据和深入的见解。 近期，CIDEG的多位学者在人工智能领域发表了相关研究成果，在《信息技术与管理应用》、《中国行政管理》、《国际论坛》和《数字法治》等学术期刊上正式发表。作为人工智能治理领域的权威专家，薛澜教授在2024中国发展高层论坛与中关村论坛上，深入阐述了人工智能治理的重要性及挑战。 在学术活动方面，CIDEG产业经济系列研讨会围绕算法影响评价体系的构建与生成式人工智能的安全治理等议题展开了深入的讨论和交流。与会专家学者就相关问题分享了各自的观点和研究成果，为推动算法治理理论和实践的发展贡献了智慧和力量。 本期CIDEG研究通讯特别聚焦人工智能（AI）发展的治理挑战及其在中国和全球的应用和发展趋势，汇集了多位学者的专家观点、研究专题、学术活动及相关出版发表的成果，以期为读者提供深入的了解和参考。 【专题研究】 《人工智能算法影响评价体系构建与应用实践》 课题负责人：贾开 人工智能算法影响评价（algorithmimpactassessment,AIA）作为一种治理机制已经被普遍性地纳入各国算法治理的框架体系之下，但其本身的制度定位与制度逻辑却尚未得到充分讨论。较为典型的反思性问题例如：人工智能算法治理的何种关键特征，使得我们需要纳入人工智能算法影响评价（即人工智能算法影响评价的必要性问题）？与往往被视为其前身的环境影响评估、数据隐私影响评估相比，人工智能算法影响评价体现了更多的继承和连续性，还是差异性（即人工智能算法影响评价的特殊性问题）？人工智能算法影响评价治理绩效的发挥，受到何种因素的影响（即人工智能算法影响评价的局限性问题）？ 对于这些问题的探索性回答，构成了本报告的主要内容。 本报告第一部分的论述指出，就制度缘起而言，人工智能算法影响评价的必要性和重要性在于其将治理重心从结果转向了过程，在淡化追溯直接责任因果链条的同时，强调治理信息的记录、共享、监督，以此积累治理经验并为算法设计者、应用者的及时调整提供参考。具体而言，这又可以总结为三点。 第一，算法不能被视为独立的产品或服务而被引入人类生产生活的各个场景，其功能效用的发挥及其治理影响的释放都根植于所处环境，正是在与环境中其他要素的相互关联、相互影响过程中算法才体现其价值。这一技术应用逻辑带来了两方面的治理后果：一方面，算法在其应用过程中需要简化现实复杂性，以单一变量代替现实中多重因素的综合影响，而这便会导致算法模型与现实世界的不一致；另一方面，基于海量数据训练的算法模型也可能体现出现实复杂性，将原本隐藏在表面现象背后的社会分化结构外化出来，从而暴露出不得不作出回应的治理风险。算法与环境的这两种关系都导致建立在“过错原则”基础上的现有侵权法或责任法框架可能失效，因试图追溯因果链条的基本原则在算法与环境的相互混杂中难以被充分满足。 第二，算法技术方案难以被解释、难以被穷尽的基本逻辑使得算法治理将始终处于 动态演化过程之中，而不能被静态的绝对原则所束缚或框定。一方面，人工智能算法模型在技术层面的“黑箱性”，以及算法应用过程中与环境要素相互影响的复杂性，都决定了试图追溯从结果倒推责任因果链条的可解释努力面临重重挑战；另一方面，试图实现相同功能的算法技术方案存在多重可能性，以及算法优化标准可能具有多重内涵的模糊性，都使得试图追求“最优算法”的技术努力幻化为“乌托邦”。这两方面因素都要求算法治理呈现出敏捷性与实验性，即任何试图提前界定而不做调适的治理思路都难以真正回应算法治理需求，治理与技术开发、应用伴随而生、伴随而变需要成为新的主导性理念。 第三，算法应用风险往往以统计意义而非具体个案形式出现的基本规律，使得算法治理不得不陷入集体效用改善与个体权益侵害同时发生的公平性“悖论”之中，而这一治理风险并非传统治理框架的关注重点。以概率计算为基本科学基础的人工智能算法，其效用提升主要体现为统计意义上的指标优化，但算法本身将始终存在“漏洞”的技术特点又决定了个体权益侵害现象必然发生，而前述算法难解释、难穷尽的基本逻辑又使得此种个体权益侵害不能再明确的责任因果链条下得到救济。如何破解这一公平性“悖论”便成为隐藏在算法治理不同案例下的共性要求。 正是基于上述三方面的新特征、新要求，算法影响评价制度的引入才不仅是必要的，也是重要的，其价值主要体现在两个方面：对算法治理的过程进行记录以累积治理经验与知识（由此回应实验性的治理要求），在风险评价的基础上要求算法设计与应用者及时修改生产流程以作出敏捷回应（由此回应动态性的治理要求）。接下来本报告的第二部分将基于对人工智能算法影响评价的制度实践进行梳理，并在此基础上对其制度内涵作出界定，以具体回答“算法影响评价是什么”这一基本问题。报告的第三部分和第四部分各讨论了人工智能算法影响评价的治理逻辑和人工智能算法影响评价的未来改革。 作为一种已经受到普遍认可和共识的算法治理机制，算法影响评价制度正陆续在各国逐步展开。2023年8月15日，《生成式人工智能服务管理暂行办法》正式施行，提出了要求对生成式人工智能进行算法影响评价的制度要求。为进一步落实该文件，2024年2月，全国信息安全标准委员会发布了全国网络安全标准化技术委员会技术文件《生成式人工智能服务安全基本要求》（以下简称《安全基本要求》），从语料安全、模型安全、安全措施等方面提出了安全评估要求，为生成式人工智能服务提供者的安全评估工作、相关主管部门评判生成式人工智能服务安全水平提供了重要参考。更为重要的是， 《安全基本要求》第一次对我国算法影响评价的对象、范畴等实质性内容做出了明确规定。尽管其是以技术文件的形式发