全球生成式人工智能行业监管研究报告

全球生成式人工智能监管研究报告2023.08 目录一、生成式人工智能监管地图...................................................................................1二、主要地区监管概述...............................................................................................2（一）中国............................................................................................................2（二）欧盟............................................................................................................2（三）美国............................................................................................................6（四）加拿大........................................................................................................7（五）英国............................................................................................................9（六）澳大利亚..................................................................................................11（七）印度..........................................................................................................12（八）日本..........................................................................................................13（九）新加坡......................................................................................................14（十）中国香港..................................................................................................16三、中国.....................................................................................................................17（一）监管对象..................................................................................................17（二）监管部门..................................................................................................18（三）合规义务要求..........................................................................................18（四）未来可能面临的监管挑战......................................................................19四、欧盟.....................................................................................................................21（一）监管框架..................................................................................................21 oMnOnQnOtPpRpRqPtPsP7N9RbRpNmMpNmPeRpPyQiNsQnRaQpOqRuOmOtQwMtRmP（二）一般合规义务..........................................................................................24（三）特殊合规义务..........................................................................................29（四）监管动态..................................................................................................31（五）相关机构..................................................................................................32五、美国.....................................................................................................................34（一）监管框架..................................................................................................34（二）一般合规义务..........................................................................................37（三）特殊合规义务..........................................................................................39（四）监管动态..................................................................................................40（五）相关机构..................................................................................................41六、加拿大.................................................................................................................42（一）监管框架..................................................................................................42（二）一般合规义务..........................................................................................43（三）监管动态..................................................................................................48（四）相关机构..................................................................................................49 1一、生成式人工智能监管地图截止2023年7月24日，我们依据对全球生成式人工智能监管动向的梳理，绘制了监管地图：1.红色区域表明该地区目前已经或即将建立成熟且较为严格的监管制度，主要包括欧盟、加拿大和中国；2.橙色区域表明该地区目前对生成式人工智能产品存在一定的限制和监管要求，例如美国；3.黄色区域表明该地区目前还没有相关制度，但是监管机构未来有计划对生成式人工智能制定规则，例如英国、澳大利亚和印度；4.绿色区域表明该地区目前没有相关制度，且监管机构也倾向于在未来不采取强制性的监管措施，例如新加坡、日本、中国香港。注：地图颜色仅表明不同地区在生成式人工智能领域法律监管的程度。 2二、主要地区监管概述（一）中国中国监管机构从2021年起加强了对人工智能的监管，并陆续发布了《互联网信息服务算法推荐管理规定》（“算法推荐规定”）《互联网信息服务深度合成管理规定》（“深度合成规定”）和《生成式人工智能服务管理暂行办法》（“生成式办法”）三部重要的部门规章。这三部规章都可能适用于向中国境内公众提供的生成式人工智能服务。而在未来，中国还可能制定层级更高的《人工智能法》，并落实科技伦理审查制度。与此同时，这三部规范也确立了中国将采取“包容审慎的分类分级监管”原则。在未来，国家有关主管部门针对生成式人工智能技术特点及其在有关行业和领域的服务应用，将制定相应的分类分级监管规则或者指引。目前负责算法备案、评估与监管的机构主要是网信办（中央网信办网络管理技术局）。与此同时，电信主管部门、公安部门也会依据职责负责监督管理工作。针对生成式人工智能的主要合规义务： 3（二）欧盟欧盟现行人工智能立法仍主要集中在传统人工智能而非生成式人工智能上，但也逐渐触及生成式人工智能的问题，例如在最新的《人工智能法》草案中规定了通用及生成式人工智能相关基础模型提供者的义务。欧盟的人工智能路径主张“以人为本（human-centric）”，在促进人工智能发展与创新的同时，构建监管体系以防范风险、保护公民基本权利和安全。欧盟目前对于人工智能的监管和治理重点在于尊重人格尊严、个人自由和保护数据及隐私安全。最新的立法进展是2023年6月14日欧洲议会对《人工智能法》的修订。该法采用“基于风险的方法”（risk-based）将人工智能系统分成四类，制定了不同程度的合规要求。其中，生成式人工智能系统一般属于有限风险的人工智能系统，需遵守最低限度的透明度义务，但可能会因其适用的领域和生成的内容而落入高风险人工智能系统的范畴。1与此同时，该法也规定了提供者、进口商、分销商、部署者、通用及生成式人工智能相关基础模型提供者等不同主体的合规义务。根据侵权行为的性质、严重程度等因素，不遵守《人工智能法》的相关当事人可能被处以不同规模的行政罚款。个人公司将禁止的人工智能系统投放市场或投入使用最高可被处4000万欧元罚款罚款4000万欧元或上一财政年度全球年营业额的7%（以较高者为准）不