生成式人工智能服务管理暂行办法

《生成式人工智能服务管理暂行办法》正式落地 科技、媒体和通信新知 2023年8月 简介 行。总体而言，最新发布的《暂行办法》充分吸纳了各界对2023年4月11日发布的《生成式人工智能服务管理办法（征求意见稿）（以下简称《征求意见稿》） 的反馈意见，在平衡提供者和使用者之间的责任方面更为注重，表现出立法者对于人工智能创新发展的积极鼓励态度。 随着人工智能技术和产品的不断更新及发展，世界各国在不同程度上对人工智能技术提出各自的监管要求，中国也不例外。 2023年7月13日，中国国家网信办会同六部委共同发布《生成式人工智能服务管理暂行办法》（以下简称《暂行办法》），并宣布该《暂行办法》将于2023年8月15日正式施 1.鼓励与监管并重的策略 在《征求意见稿》对于生成式人工智能所建立的监管框架的基础上，《暂行办法》第三条新增《科学技术进步法》作为上位法依据。同时，《暂行办法》新增第四条、第五条，明确了在合理监管的前提下，鼓励生成式人工智能技术的平台建设、自主创新、国际交流、以及各领域适用的多线发展。这不仅体现了中国对于生成式人工智能技术全球发展的前瞻性认知，也展示了中国在国际竞争赛道上的雄心壮志。 在法律后果方面，为更好平衡科技发展和监管需求，《暂行办法》第二十一条删除了罚款及终止利用生成式人工智能提供服务等较为严厉的措施，并在现行有效的中国法律及行政法规没有明文规定的情况下更倾向于采取先引导改正的积极态度，而拒不改正或严重违规时，由主管部门责令暂停提供相关服务。 2.适用范围的精细化 此前《征求意见稿》规定，只要是“研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的”都需要符合《征求意见稿》的相关要求。而本次《暂行办法》删除“研发”，并将措辞由“面向”调整为了“向”。从字面上来看，《暂行办法》的监管对象，由直接或间接（被动式）面向境内公众的服务行为，调整为直接（主动式）向境内公众的服务行为。 成式人工智能服务的”行为排除在《暂行办法》监管范围之外。 由于前述提供者主体身份的特殊性，普华永道倾向于认为，该例外情形是立法者意图另行以专门的法规、行业准则等进行规范，因此在此先行排除，以免后续产生立法冲突。但值得商榷的是，根据《暂行办法》中适用范围的一般性规定，未向境内公众提供生成式人工智能服务的行为（无论提供者是否属于例外情形中的主体类型）本就不属于《暂行办法》的监管范围，因此本条规定的用语似乎不够严谨。 此外，本次《暂行办法》新增了一条例外情形——将“行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术，未向境内公众提供生 3.新设制度的铺垫 定。考虑到提供者和使用者之间存在的信息不对称，如果允许双方自由定义服务协议的内容，可能会导致使用者在无力反抗的情况下接受大量免除提供者法律责任的不公平条款。因此，参照中国现行的个人信息出境标准合同的监管模式，普华永道预测，未来可能会有针对服务协议文本内容的相关细则或指导文件陆续出台。 本次《暂行办法》针对提供生成式人工智能服务的行为，设置了四项新制度。普华永道认为这些将是未来实施监管的重点方式。 i.分级分类监管：《暂行办法》第十六条规定了，国家有关主管部门应当以行业和领域为单位，制定相应的分类分级监管规则或者指引。从横向来看，该条明确了提供生成式人工智能服务的行为未来将实行分类分部门管理，而不是简单地将所有事项纳入国家网信部门的数据保护责任范畴。从纵向来看，该条明确了生成式人工智能技术未来将进行分级监管。而分类分级的具体准则，仍待各行业主管部门的进一步细则。值得参考的是，欧盟《人工智能法案》将人工智能系统的风险划分成不可接受的风险、高风险、有限风险和轻微风险四种类型，并针对不同类型施加了禁用、高度监管、自我监管等不同程度的措施。 iii.境外生成式人工智能服务的监管：《暂行办法》第二十条规定了“对来源于中华人民共和国境外向境内提供生成式人工智能服务的违法违规行为，国家网信部门有权通知相关机构采取技术措施处置”。这意味着，如果未来在跨境服务过程中发现违法违规的行为，国家网信部门有权以技术手段先进行屏蔽、拦截等处置，为中国进一步管理来源于境外生成式人工智能的服务提供法律依据。 ii.提供者和使用者之间的服务协议：《暂行办法》第九条规定了“提供者应当与使用者签订服务协议，明确双方权利义务”。这一条款相比于《征求意见稿》将责任大部分落在提供者一方的做法，为提供者和使用者共享风险开启了一扇新大门。然而，就服务协议的具体内容和实施方式，《暂行办法》并未给出详细规 iv.外商投资生成式人工智能服务：《暂行办法》第二十三条规定了“外商投资生成式人工智能服务，应当符合外商投资相关法律、行政法规的规定”。虽然现行的外商投资法律并未对生成式人工智能服务进行规定，但从该条可以窥视到生成式人工智能服务或将是未来外商投资领域的监管重点。 4.提供者合规要求的平衡与调整 此前的《征求意见稿》对生成式人工智能服务在数据安全、内容合规和知识产权保护三方面分别提出了若干合规要求，但这些合规义务大部分以承诺性、保证性的义务形式呈现，忽视了在实际执行过程中企业面临的难题。普华永道也曾在此前的“创新与治理：解读生成式人工智能的最新监管动向”文章中进行讨论。 本次《暂行办法》第七条依旧从前述三方面分别规定了提供者的合规要求，但在措辞上对提供者的合规要求有所调整，使之在实际落地过程中更具有可操作性。尤其是针对训练数据的真实性、准确性、客观性、多样性要求，从“能够保证”调整为了“增强”，将保证义务降级为尽职性承诺，充分考虑了提供者因信息来源难以追溯而被动违反合规义务的困境。 5.提供者的责任 《暂行办法》在《征求意见稿》的基础上对提供者的法律责任进行了一些调整。其中包括算法评估和备案，数据标注，标识义务，实名认证，防沉迷设置及科学引导义务，投诉接收处理机制，服务稳定性要求，以及模型优化义务。具体而言，有以下几个方面： v.防沉迷设置及科学引导义务：提供者应当采取防沉迷设置，指导使用者科学理性认识和依法使用生成式人工智能技术。相比于《征求意见稿》的规定，《暂行办法》强调了科学引导及防沉迷措施的重点保护对象，即未成年人。 i.算法评估和备案：此前普华永道曾提出，《征求意见稿》设置了算法评估和备案义务，但却未明确义务主体。此次《暂行办法》进一步对义务主体进行了明确，要求“提供具有舆论属性或者社会动员能力的生成式人工智能服务的”，即提供者应当办理算法评估和备案手续。 vi.投诉接收处理机制：提供者应当建立健全投诉、举报机制。相比于《征求意见稿》的规定，《暂行办法》新增了投诉处理流程的公布义务，提升了提供者和使用者之间的透明度。 vii.服务稳定性要求：提供者应在服务过程中确保其产品和服务的稳定运行。相比于《征求意见稿》规定下整个生成式人工智能服务生命周期内的稳定性要求，《暂行办法》将服务稳定性要求放宽到了“服务过程中”，这给予了提供者在服务上线后进行技术维护、技术升级的缓冲空间。 ii.数据标注：提供者在技术研发过程中需要进行数据标注，相比于《征求意见稿》的规定，《暂行办法》新增了提供者开展数据标注质量评估的义务。 iii.标识义务：标识义务要求提供者在生成内容的合理位置、区域进行显著标识，以区分生成内容与真实内容，避免引起公众混淆。相比于《征求意见稿》的规定，《暂行办法》并未对此项义务进行实质修改。 viii.模型优化义务：相比于《征求意见稿》的规定，在发现生成式人工智能生成违法内容的情形下，《暂行办法》删除了提供者进行模型优化的时间限制，新增向主管部门报告的义务。这在期限上放缓了提供者的优化节奏，充分考虑到了提供者可能面临的在短期内无法完成优化模型的技术困境。 iv.实名认证：相比于《征求意见稿》，《暂行办法》删除了要求使用者进行实名认证的规定。 结语和展望 生成式人工智能服务作为大数据时代的全新产物，其监管领域的立法工作正在全球范围内积极探索之中。中国《暂行办法》作为专项领域内的先行者，可以被视为中国立法者的一次“试水”，为后续更为全面、细致的立法工作做好铺垫。 普华永道期待《暂行办法》的实施能为中国生成式人工智能服务领域的发展带来更多的法律保障和制度创新，同时也寄望于中国的立法者能够在未来对于人工智能的监管中继续保持开放和创新的立法思路，为中国的人工智能产业发展创造一个更加公平、透明和可预期的法律环境。 根据最新消息，人工智能法草案已被列入国务院2023年立法工作计划。人工智能领域将成为未来立法关注的重点领域，这预示着中国对于人工智能监管的决心和行动力。普华永道也将持续关注后续法案的出台，并为客户提供及时、精准的法律解读和咨询服务。 联系我们 如您希望就此《暂行办法》或相关合规建议有更深入的了解，请与我们联系。 普华永道中国 周伟然全球科技、媒体及通信行业主管合伙人wilson.wy.chow@cn.pwc.com+86 (755) 8261 8886 高建斌中国内地科技、媒体及通信行业主管合伙人gao.jianbin@cn.pwc.com+86 (21) 2323 3362 庄树清普华永道中国税务人工智能工作组主管合伙人j.chong@cn.pwc.com+86 (21) 2323 3219 蒋亮普华永道中国公司及监管服务税务及商务咨询合伙人liang.l.jiang@cn.pwc.com+86 (21) 2323 8873 李雨婷普华永道中国公司及监管服务税务及商务咨询高级顾问caroline.c.li@cn.pwc.com+86 (21) 2323 4127 程伟宾律师事务所 李江陵程伟宾律师事务所合伙人*chiang.ling.li@tiangandpartners.com+852 2833 4938 董瀚思程伟宾律师事务所合伙人*joyce.hs.tung@tiangandpartners.com+852 2833 4983 古安（Nicholas Cook）程伟宾律师事务所顾问律师*nicholas.cook@tiangandpartners.com+852 2833 4906 *程伟宾律师事务所是一家独立的香港律师事务所，与普华永道全球网络合作密切。