全球生成式人工智能行业监管研究报告

全球生成式人工智能监管研究报告 2023.08 目录 一、生成式人工智能监管地图...................................................................................1 二、主要地区监管概述...............................................................................................2 （一）中国............................................................................................................2（二）欧盟............................................................................................................2（三）美国............................................................................................................6（四）加拿大........................................................................................................7（五）英国............................................................................................................9（六）澳大利亚..................................................................................................11（七）印度..........................................................................................................12（八）日本..........................................................................................................13（九）新加坡......................................................................................................14（十）中国香港..................................................................................................16 （一）监管对象..................................................................................................17（二）监管部门..................................................................................................18（三）合规义务要求..........................................................................................18（四）未来可能面临的监管挑战......................................................................19 四、欧盟.....................................................................................................................21 （一）监管框架..................................................................................................21 （二）一般合规义务..........................................................................................24（三）特殊合规义务..........................................................................................29（四）监管动态..................................................................................................31（五）相关机构..................................................................................................32 （一）监管框架..................................................................................................34（二）一般合规义务..........................................................................................37（三）特殊合规义务..........................................................................................39（四）监管动态..................................................................................................40（五）相关机构..................................................................................................41 （四）相关机构..................................................................................................49 一、生成式人工智能监管地图 截止2023年7月24日，我们依据对全球生成式人工智能监管动向的梳理，绘制了监管地图： 1.红色区域表明该地区目前已经或即将建立成熟且较为严格的监管制度，主要包括欧盟、加拿大和中国；2.橙色区域表明该地区目前对生成式人工智能产品存在一定的限制和监管要求，例如美国；3.黄色区域表明该地区目前还没有相关制度，但是监管机构未来有计划对生成式人工智能制定规则，例如英国、澳大利亚和印度；4.绿色区域表明该地区目前没有相关制度，且监管机构也倾向于在未来不采取强制性的监管措施，例如新加坡、日本、中国香港。 二、主要地区监管概述 （一）中国 中国监管机构从2021年起加强了对人工智能的监管，并陆续发布了《互联网信息服务算法推荐管理规定》（“算法推荐规定”）《互联网信息服务深度合成管理规定》（“深度合成规定”）和《生成式人工智能服务管理暂行办法》（“生成式办法”）三部重要的部门规章。这三部规章都可能适用于向中国境内公众提供的生成式人工智能服务。而在未来，中国还可能制定层级更高的《人工智能法》，并落实科技伦理审查制度。 与此同时，这三部规范也确立了中国将采取“包容审慎的分类分级监管”原则。在未来，国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，将制定相应的分类分级监管规则或者指引。 目前负责算法备案、评估与监管的机构主要是网信办（中央网信办网络管理技术局）。与此同时，电信主管部门、公安部门也会依据职责负责监督管理工作。 （二）欧盟 欧盟现行人工智能立法仍主要集中在传统人工智能而非生成式人工智能上，但也逐渐触及生成式人工智能的问题，例如在最新的《人工智能法》草案中规定了通用及生成式人工智能相关基础模型提供者的义务。 欧盟的人工智能路径主张“以人为本（human-centric）”，在促进人工智能发展与创新的同时，构建监管体系以防范风险、保护公民基本权利和安全。 欧盟目前对于人工智能的监管和治理重点在于尊重人格尊严、个人自由和保护数据及隐私安全。最新的立法进展是2023年6月14日欧洲议会对《人工智能法》的修订。该法采用“基于风险的方法”（risk-based）将人工智能系统分成四类，制定了不同程度的合规要求。其中，生成式人工智能系统一般属于有限风险的人工智能系统，需遵守最低限度的透明度义务，但可能会因其适用的领域和生成的内容而落入高风险人工智能系统的范畴。1与此同时，该法也规定了提供者、进口商、分销商、部署者、通用及生成式人工智能相关基础模型提供者等不同主体的合规义务。 根据侵权行为的性质、严重程度等因素，不遵守《人工智能法》的相关当事人可能被处以不同规模的行政罚款。 历时两年有余，《人工智能法》草案的提出和修订体现了欧盟对人工智能的严格监管态度。尽管最新的草案修订稿对创新发展的考量增多，但总体而言，欧盟对人工智能的监管仍非常严苛。 在执法方面，近年来，已有多个包括意大利、法国、西班牙等多个欧盟成员国对ChatGPT展开调查。 在监管方面，欧盟目前没有专门针对人工智能监管的独立机构，主要由欧盟层面及成员国层面不同领域的主管部门联合监管和执法。最新的《人工智能法》草案要求成员国指定一个或多个主管机构，包括一个国家监管机构，负责监督《人工智能法》的应用和实施；并提议在欧盟层面建立由成员国和欧盟委员会的代表组成的新欧盟机构——“人工智能办公室”，以期为《人工智能法》的统一适用提供指导、协调联合跨境调查。此外，欧洲数据保护委员会(EDPB)、国家市场监督机构、海关、国家消费者保护当局会负责各自领域与人工智能有关的执法工作。 《人工智能法》中通用及生成式人工智能相关基础模型提供者的特殊义务： 《人工智能法》中包括生成式人工智能在内的有限风险的人工智能系统的透 明度义务： （三）美国 美国是目前人工智能技术的策源地和领导者。为了保持这一领导地位，美国政府将促进人工智能的创新和发展作为高度优先事项。 因此，美国主张监管需以促进人工智能负责任的创新（responsibleinnovation）为目标，应通过监管和非监管措施减少人工智能开发和部署的不必要障碍，同时保护美国的技术、经济和国家安全、公民自由、人权、法治、隐私和尊重知识产权等核心价值观。 目前美国对人工智能的关注重点在于公民权利、公民自由、数据与隐私安全及知识产权保护。 尽管美国的部分州已通过与人工智能有关的法案，但美国目前尚无专门规范通用人工智能或生成式人工智能的法律性文件。虽然两党议员尝试就不同人工智能事项提请立法，有趋势表明美国对人工智能的监管或将加强，但联邦立法监管目前仍处于非常早期的阶段。细分领域不具有法律强