2024年全球人工智能立法的主要模式、各国实践及发展趋势研究报告

全球人工智能立法的主要模式、各国实践及发展趋势研究 “工信安全智库”系列报告编委会 主任：蒋艳周健 副主任：黄鹏 成员：李强冯媛殷利梅杨志锋王花蕾申畯刘丹孙倩文付伟胡思洋王慧娴闫寒马瑞敏王丁冉王蕊 编写组 撰稿：刘芷君 审稿：李强冯媛王花蕾孙倩文 序 国家工业信息安全发展研究中心经过60余年的发展与积淀，在智库研究方面形成了丰硕的积累。2018年9月，中心推出“工信安全智库”品牌，立足深化供给侧结构性改革和加快建设创新型国家战略需求，围绕制造强国和网络强国建设任务，聚焦网络安全、数字经济、软件产业、产融合作等重点领域，开展基础性、战略性、先导性智库研究，为工业和信息化部、中央网信办、国家发展改革委等提供智力支持。 “工信安全智库”自2019年开始陆续推出“研判”“洞察”“瞭望”“指数”“案例”“编译”等系列研究报告，围绕党和政府决策急需的相关重大课题和关键问题，开展形势研判、专题调研、国际跟踪、景气测度、案例分析、报告翻译等方面的持续研究，为主管部门预见走势、把握机遇、应对挑战、谋划战略提供参考。 本次推出的瞭望报告总结了全球人工智能立法的两大逻辑导向和四大主流模式，列举了欧盟、美国、新加坡、中国等主要经济体的人工智能立法实践，研判了全球人工智能立法的发展趋势，并为我国完善人工智能法律体系提出了相关建议。 由于成稿仓促，加之水平有限，报告中难免有疏漏和错误之处，恳请批评指正。 编写组2024年12月 摘要 随着人工智能技术的不断发展和广泛应用，人工智能逐渐成为大国博弈的重要焦点，各国和地区都在积极推进人工智能立法，推动人工智能规范化应用，全球人工智能竞争逐渐从技术之争发展到规则之争、治理之争。纵观全球人工智能立法实践，可以发现不同国家和地区在人工智能立法方面体现出不同的逻辑导向和立法模式路径。欧盟以安全规制为导向，制定出台了全球首部统一的人工智能综合立法，体现出强监管倾向；美国以技术发展为导向，对人工智能的监管力度相对宽松，相关规定融合在现有立法中或对重点应用场景制定专门立法；新加坡致力于占据人工智能技术创新主动权，以技术发展为导向，通过制定标准、指南等非约束性的软法指导人工智能规范发展；中国则贯彻统筹发展和安全的理念，现阶段体现出融合立法和场景立法的特征，同时持续推进人工智能综合立法进程，不断完善人工智能治理法律法规体系。 随着全球人工智能立法和监管实践的持续推进，人工智能在各国的战略地位进一步加强，各国将更加关注安全和发展的平衡，柔性规则和硬性规定将同步发展，统一立法将成为国际主流趋势，人工智能国际治理规则体系将持续构建。我国应秉持统筹发展和安全的原则，顺应人工智能治理的全球趋势，强化立法顶层设计，制定人工智能治理制度框架，加强国际交流对话，提出人工智能治理的中国方案。 目录 一、人工智能立法的逻辑导向和主要模式....................................................1 （一）人工智能立法的两大逻辑导向....................................................1（二）人工智能立法的四大主流模式....................................................3 （一）欧盟：以安全规制为导向，实行统一立法模式........................6（二）美国：以技术发展为导向，实行融合立法和场景立法模式...9（三）新加坡：以技术发展为导向，实行软法先行模式......................12（四）中国：统筹发展和安全，实行融合立法和场景立法模式.....14 三、全球人工智能立法特点和趋势..............................................................20 （一）立法逻辑导向日趋融合，安全和发展并重成为全球共识..........20（二）软法先行成为普遍选择，软法硬法协同治理是重要方向..........22（三）统一立法成为大势所趋，多元立法模式呈融合互补趋势.....23（四）国际治理规则持续构建，人工智能立法全球化趋势显著.....25 （一）持续完善顶层设计，形成多元共治的治理格局......................27（二）划定安全治理边界，确立风险分级的管理机制......................29（三）强化国际交流对话，提出全球治理的中国方案......................30 人工智能是引领未来的战略性技术，是新一轮科技革命和产业变革的重要驱动力量，是必须抢占的科技制高点。党的二十届三中全会通过的《中共中央关于进一步全面深化改革推进中国式现代化的决定》提出“建立人工智能安全监管制度”，对推动人工智能安全发展义重大。深入贯彻落实党的二十届三中全会精神，必须坚持全面依法治国，加快人工智能立法进程，推进人工智能治理法治化，更好发挥法治对于人工智能健康发展的引领、规范和保障作用。 一、人工智能立法的逻辑导向和主要模式 由于各国在人工智能技术发展、社会文化背景、法律传统等方面存在差异，各国人工智能立法体现出了不同的逻辑导向和立法模式。 （一）人工智能立法的两大逻辑导向 人工智能作为引领未来的战略性技术，是新一轮科技革命和产业变革的核心驱动力，因此对人工智能的立法规制需要衡量人工智能技术和产业的发展及其安全治理需求，然而这两者不可避免地存在一定的冲突与矛盾。一方面，人工智能技术的发展会带来更大的安全风险。例如，人工智能系统需要大量的数据进行训练和优化，将带来更大的数据泄露和个人隐私风险；人工智能技术将暴露更大的系统攻击面，增加网络攻击风险；自动驾驶汽车、智能医疗诊断等人工智能自主决策场景在系统决策算法存在缺陷或被恶意篡改的情况下，可能导致严重的安全事故；人工智能技术还可能被用于制造恶意软件、进行网络钓鱼等非法活动；如果人工智能技术被用于 监视和控制，将侵犯个人隐私和自由，引发严重的社会问题。另一方面，安全治理在一定程度上会制约人工智能技术的快速发展。一是导致合规成本增加。为了符合安全治理和合规要求，企业需要在技术研发、产品设计、数据收集与处理等各个环节增加投入，从而增加企业运营成本，或导致研发投入减少。二是限制技术创新。安全治理往往伴随一系列限制性规定，例如限制某些数据的使用方式或算法的应用范围以保护个人隐私、要求采用更为保守的技术方案以保障系统安全等，这些限制在一定程度上制约了人工智能技术的创新空间。三是提高市场准入门槛。安全治理往往会提高企业的市场准入门槛，可能导致一些中小企业或初创企业因难以承担高昂的合规成本而难以进入市场，从而削弱市场竞争活力。四是政策滞后性带来监管不确定风险。法律法规的制定和修订速度往往滞后于技术发展速度，导致企业在技术创新过程中面临不确定性和风险，或使企业在投资决策时更加谨慎，从而减缓技术发展速度。五是加大国际合作壁垒。不同国家和地区在人工智能、数据跨境流动、技术出口管制等方面的法律法规、政策标准和行业规范存在差异，可能导致国际合作面临障碍，从而制约人工智能技术的跨国界快速发展。 各经济体基于自身发展需求对人工智能展开法律规制，平衡人工智能安全与人工智能技术创新，体现出不同的立法导向。以美国为代表的国家以推动技术发展为导向进行人工智能立法。美国的法律、政治与文化一直信任市场力量，支持企业通过市场竞争为消费者与市场提供优质产品，这一导向在人工智能领域也得以体现。美 国对于国内人工智能发展强调市场主导与创新驱动，在风险防范方面强调行业自律而不是强有力的政府监管。在这种理念的指导下，美国的人工智能立法主要针对政府机构，对企业的限制仅限于消费者知情权、反歧视保护等方面。以欧盟为代表的经济体则以安全规制为导向推进人工智能立法。目前全球的产业与技术主要集中在美国与中国尤其是美国，而欧盟则几乎没有特别具有影响力的数字企业与领先技术，欧盟在人工智能等数字经济领域的技术硬实力逐渐降低，其影响力日益集中在规则制定的软实力领域。欧盟在价值取向上更注重人工智能本身的安全，对人工智能进行统一立法，既可以对数字产业进行有效规范，又可以利用立法对域外大型互联网与科技企业进行有效监管。 （二）人工智能立法的四大主流模式 通过立法规制人工智能已成为各国共识，各国不断探索采用符合本国国情的立法模式，以实现技术向善、规范运行的目的。立法模式是指一定时期内，一个国家或地区在某一领域制定法律的表现形式。纵观各国家和地区的人工智能立法实践，目前主要立法模式可以划分为统一立法模式、场景立法模式、融合立法模式、软法先行模式四种。值得注意的是，立法是一项复杂的国家行为，各国的人工智能立法并非只体现为单一的立法模式，往往会融合不同立法模式。 一是统一立法模式。统一立法模式是指国家制定一部专门的人工智能法案，对人工智能的定义、发展、安全治理、监督管理等作 统一规定，对人工智能进行垂直性和体系性治理，欧盟是统一立法模式的代表。整体上看，统一立法模式通常会对人工智能进行统一界定以确保法律规范的同一性和一致性，由专门机构统一负责监管执法以确保执法的专业性，还会明确违反法案所承担的法律责任。欧盟是统一立法模式的典型代表。 二是场景立法模式。场景立法模式是一国针对特定场景或特定领域制定不同的法案规范人工智能应用。与统一立法模式不同，场景立法模式下人工智能相关立法并不会对人工智能进行全面规制，而是对消费、金融、教育等不同场景下的人工智能应用进行规范，从而在推动人工智能创新发展的同时，确保在重要领域和场景下的规范应用和安全治理。美国是场景立法模式的典型代表。 三是融合立法模式。融合立法模式是针对人工智能的法律规定分散融合在其他部门法中，用以规范不同行业领域的人工智能安全应用。在融合立法模式中，对于人工智能的规范通常作为消费者保护、产品责任、个人信息保护等立法的重要内容之一，而不是作为专门规制的对象进行立法。美国也是融合立法模式的典型代表。 四是软法先行模式。软法是指不能运用国家强制力保证实施的法律规范。与软法相对应的概念是“硬法”，是指具有强制约束力的法律规范。硬法通常会经过严格的立法程序和审查机制，法律条文具有高度的确定性，难以较好地应对人工智能技术的复杂性和不确定性。因此，软法作为一种更加灵活、更具“实验性”的治理工具，被越来越多地应用于人工智能的治理中。在人工智能立法过程 中，优先采用不具有法律约束力但会产生实际规范效果的行为准则、政策指导等软法手段，能够增强法律规范的灵活性和对人工智能技术的适应性，降低监管成本，在一定时期实现对人工智能技术的有效治理。很多国家在人工智能立法最初阶段都是从软法开始的，新加坡是目前软法先行立法模式的典型代表。 比较全球主流的人工智能立法模式，会发现各个模式各有优缺点。统一立法模式能够最大程度集中国家力量，一方面能够协调一国内部法律规范，形成严密的治理法网，实现跨领域综合监管；另一方面，通过合规义务和法律责任进行垂直适用，有利于维护监管执法的公平公正，取得全球智能治理的规范优势。但统一立法模式明确界定人工智能相关概念范围，在面对技术更迭时易因灵活性和针对性不足而减损规范效果，还面临标准设定困难及风险动态变化的问题。场景立法模式和融合立法模式针对特定行业领域的人工智能应用进行立法规范，主要通过融入传统部门法或推出针对性法案进行规制，可最大限度地维护原有规范体系的稳定性，还具有渊源多元、形式灵活等特点，既可结合新型人工智能做到“急法先用”，又可留出试错空间推动人工智能技术迭代创新。但分散立法不利于全盘布局和持续发展，可能出现立法冲突、重复立法等问题，损害立法的体系性和权威性。同时多元执法机构在针对同一违规行为时，因规范适用的差异及权责边界的模糊，可能执法不公或重复处罚，甚至形成执法盲区。软法先行模式在人工智能处于高速发展的阶段能够为技术创新留出空间，通过指导性规范引导技术健康向善发展，