图解国家网信办生成式人工智能服务管理办法（征求意见稿）
炼石CipherGaleway文本代码图解国家网信办《生成式人工智能服务管理办法》（征求意见稿）炼石网络2023年4月图片视频 烁石我国首部生成式人工智能服务领域的专门立法中华人民共和国国家互联网信息办公室2023年4月11日，国家互联网信息办公室发布《WWW.CAG.GOV.CN生成式人工智能服务管理办法（征求意见稿）》面向社会公开征求意见，旨在促进生成式人工智国家互联网信息办公室关于《生成式人工智能服务管理办法（征求意见稳）》公开征求意见能技术健康发展和规范应用，意见反馈截止时间的通知为2023年5月10日。视频034 3 炼石全球酿监管措施，多国监管部门密切关注AIGC数据安全问题CipherGetewor美国加拿大英国4月11日，据华尔街日报报道，拜登政当地时间4月4日，加章大隐私专员办公室英国数据保护机构发布了对使用生成式人府已经开始研究是否需要对ChatGPT等人Office of the Privacy Commissioner of工智能（GenerativeAl)的8个问题，工智能工具实行检查。作为潜在监管的第Canada，OPC）近日宣布开始调查ChatGPT一步，美国商务部4月11日就相关问责措背后的公司OpenAl，目的是回应一项针对该施正式公开征求意见，包括新人工智能模公司“未经同意收费、使用和披露个人信息型在发布前是否应经过认证程序。征求意”的投诉。根据公告，由于相关调查仍在进见期派为60天。行中，所以目前无法公开史多信息意大利德国/西班牙/瑞典印度在ChatGPT被按连发现意外泄露用户聊天记德国数据保护专员指出，考虑到数据保护印度政府于当地时间4月5口表示，不打算录后，意大利数据保护局（Garanteperla，原则上不排除暂停ChatGPT在德国的使监管人工智能的发展，认为该行业对该国Protezione clei Dati Personali)于3月31日用；西班牙的监管机构也宣称，虽然畜末未来说是一个“重要和战略性”的领城。宣布将暂时禁用ChatGPT并对该工具涉姚违收到任何关于ChatGPT的投诉，但不排除反隐私规则展开调查；随后：法国和爱尔兰未来会进行调查：不过，瑞典的隐私监管的隐私监管机构表示已经与意大利取得联系机构则表示，没有计划禁止ChatGPT，也，以了解更多有关该禁令的依据。没有与意大利的监管机构联络。“信息来源于互联网 烁石《生成式人工智能服务管理办法（征求意见稿）》整体架构生成式人工智能服务管理办法（征求意见稿总体原则二、提供者数据合规相关义务四、处罚及实施1.立法目的和依据4.法律法规和公序良5.明确监管对象责7.训练数据来源合俗避循任和义务法性责任20.违规处罚2.适用范图、关键定义8.人工标注9.实名制要求10.防止沉送21.实施日期3.鼓励技术创新、11.承担个人信息保护12.不得生成歧视性安全可信义务/不得画像分析内容14.延续性保障红色块条款包含了个人16.生成内容标识信息保护相关要求。三、监管审查义务6.安全评估和备案13.投诉处理机制15.整改期限17.信息技露18.用户指导19.违规用户处理 炼石网络监管日益成熟，实现技术发展与安全合规同步推动划定适用范围、给出权威释义明确权责划分、责任主体建立多项机制、丰富管理措施1.完善监管框架，制定依据源于网明确提供者的责任和义务建立处理机制：《办法要求生成式络安全法》《数据安全法》《个人信息人工智能产品或服务应建立评估备案、实保护法》三大上位法，卷照细化了互《办法》贯彻落实《个人信息保护法》，强化个人信息保护要求名制、投诉处理等机制联网信息服务算法推荐管理观定》《互联网信息服务深度合成管理观定》提出蒙正非法获既、破费、利用个人信息和隐私、高业移密·丰富管理措施：通过人工标注、防止联网信息服务管理办法》等制度明确个人信意处理者的法定责任和积义务依赖或况迷、延续性保障、合规整改、生2.划定适用范围，明确关键定义，，应征得个人信息主体同前成内容标识等措和手段，增强生成式人明确提供者停止生成侵害个人总私等内容工智能合法性、合规性和合理性鼓励行业开展基础技术自主创新、国际的处置措总合作、支持信创3.明确处罚金额，规定对干违反办法》规定拒不改正或情节严重的，将“处一万元以上十万元以下罚款” 烁石第一条：《办法》制定的目的和依据是什么？构建完善的生成式人工智能法制化监管体系，促进生成式人工智能技术健康发展和规范应用上位法上位法上位法《网络安全法》《数据安全法》《个人信息保护法》参考依据中民中大国培安全限总化要妇会办公室《具有與论属性或社会动员《互联网信息服务深度合成《互联网信息服务算法推荐网络信息内容生态治理能力的互联网信息服务安全管理规定管理规定规定互联网信息服务管理办法2023.1.10起施行2022.3.1起拖行2020.3.1起施行2018.11.30起的行评估规定2011.1.8编订（生成式人工智能服务管理办法（征求意见稿）6 陈石第二、三条：《办法》适用范围是什么？体现什么样的国家态度？什么样的组织和个人适用《办法》？体现什么样的国家态度？研发、利用生成式人工智能产品，面向中华人国家民共和国境内公众提供服务的，适用本办法。支持人工智能算法、框架等基础技术的什么是生成式人工智能？自主创新、推广应用、国际合作生成式人工智能是指基于算法、模型、规则生成文本、图片、鼓励优先采用安全可信的软件，声音、视频、代码等内容的技术。工具、计算和数据资源*主要监管的是A/GC技术研发商和基于AIGC技术的应用开发商 烁石第四条：提供生成式人工智能产品或服务应当遵守哪些要求？CipherGetewoy提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：1社会主义核心价值观防止歧视3不得实施真实准确5个人隐私保护不公平竞争利用生成式人工智能生成的内容应当体现社会主义核心价值在单法设计、训练数利用生成式人工智尊重他人合法利益双据选择、模型生成和等重知识产权、商能生成的内容应当防止伤害他人身优化、提供服务等过业道德，不得利用真实准确，采取措心健康，提害肖像不得合有颜覆国家政权、潮程中，采取措施防止算法、数据、平台施防止生成虚假信权、名禁权和个人社会主义制度，编动分裂国家出现种族、民族、信等优势实施不公平总隐私，侵犯知识产、彼坏国家统一：直扬恐饰主仰、年龄、职业等校国别、地域、性到、竞争权。禁止非法获取义、极端主义，宣杨民族仇恨、民族歧视，要力、温移色情视披离、利用个人信息，虚假信息：以及可能扰信息和隐私、商业乱经济族序和社会族序的内容秘密对应《互联网信息服务算法推荐管理规定》第十三条算法推荐服务提供者提供互联网新闻信息股务的，当依法取得互联网新闻信息服务许可，规范开展互联网新闻信息票编发布服务、转载服务和传播平台服务，不得生成合成虚假新闻信息，不得传播非国家规定范国内的单位发布的新闻信息。对应《互联网信息服务深度合成管理规定》害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新信息。转载画于深成服务制作发布的新阅信息的，应当依法转或互联网新阅信总稳单位发布的新网信息。8 炼石第五条：提供者对产品生成的内容承担些责任和义务？提供者利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等除了AIGC技术研发商和基于A/GC技承担该产品生成内容生产者的责任术的应用开发商，即使是提供AP/接口等接入服务的提涉及个人信息的供商也要为内容生成承担责任承担个人信息处理者的法定责任，履行个人信息保护义务 炼石第六条-1：需要安全评估的具体情形和评估事项？CipherGetewoy中共中央网络安全和信息化委员会办公室需要安全评估的情形安全评估事项PNEAESOYD（一）确定与所提供服务相适应的安全管理（一）具有奥论属性或社会动员能力的信息负责人，信息审核人员或者建立安全管理机构的情况服务上线，或者信息服务增设相关功能的（二】用户真实身份核验以及注册信息留存措炮（二）使用新技术新应用，使信息服务的功（三）对用户的账号，操作时间，操作类型。网络源地址和日标地址、网络源端口、客户能属性，技术实现方式，基础资源配置等发戏硬性特征等目志信息，以及用户发布信息记录的留存措施：生重大变更，导致其论属性或者社会动员能【四】对月户账号和通讯群组名称，眠称简介、备注，标识，信息发布、转发，评论安全评估：依据国家网信办和公安力发生重大变化的和通讯群组等服务功能中违法有击信息的防范处置和有关记录保存措施（三）用户规模显著增加，导致信息服务的【五】个人信息保护以及防范违法有害信息部2018年11月联合发布的具有传插扩散。社会动员功能失控风险的技术措奥论属性或社会动员能力的互联网典论属性或者社会动员能力发生重大变化的，（六）建立投诉、举报制座，公布投诉，举信息服务安全评估规定》，向国家（四）发生违法有害信息传插扩放，表明已报方式等信息，及时受理并处理有关投诉和举报的情况：网信部门电报安全评估有安全措施难以有效防控网络安全风险的服务监督管理职责提供技术，数据支持和协【七】建立为网信部门依法漫行互联网信息【五）地市级以上同信部门或者公安机关书助的工作机制的情况（八）建立为公安机关，国家安全机关依法面进知需要进行安全评估的其情形，维护国家安全和查处注法犯晕提供技术数据支持和协助的工作机制的情况，10 炼石第六条-2：算法备案如何执行落地？算法备案主体制度要求算法备案要求处罚互联网信息服务算法备豪系统具有与论属性或者社会动员能力的算法推荐服务提供者通过院年至人是入口满有关情况、提供虚具有具论属性或者社会假材料等不正当手段动员能力的算法推荐服取得备案的，由国忘s l1.算法备主体进行客提供者医当在提供服自治区，直辆之日起十个工作日内市网信部门予以缴销算法备案填报时应当通过互联网信息服务算备案，给予管告，通法备数系统填报服务提报批评，请节严重的，算法备案：按照《互联网信息服务算法1.为公众典论提供表供者的名种、服务形式.贵令暂停信息更析对落实算法安全主体应用领域算法类型并处一万元以上十万推荐管理规定》履行算法备案和变更，达渠道的服务提供者：责任的情况进行说明；算法自课估报告，拟公元以下罚款，2.具有发动社会公众示内客等信息，最行备注销备案手续。2.在进行算法备案前，案手续算法推荐服务提供者的具有英论属性或者社从事特定活动的互联备案信息发生变更的会动员能力的算法推注：自《互联网信息服务算法推荐管理企业应设算法安全应当在变更之日起士个存服务提供者终止服网信息服务商。工作且内办理变更手续，务未按照本规定第二规定》实施以来，国家网信办于2022机构，建立完善的公算法推学服务提供者综十四条第三款要求办止服务的，应当在终止理注销备案手续，或年8月，10月及2023年1月先后三次公司内部规章制度，服务之日起二土个工作者发生严重注法情形且内办理注销备系于统吊销相关业务许可证受到责令关闭网站布了境内互联网信息服务算法备案清并作出冠善安排，或者吊销营业执照等单》，发布了200余项算法备案，其中行政处罚的，由国忘和省，自治区、直楼包括了多家头部互联网公司的算法市网信部门予以注销11 陈石第七条：预训练、优化训练数据来源需满足哪些要求？用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：安全合规产权保护信息保护质量要求监管要求符合《中华人不含有侵犯知数据包含个人能够保证数据国家网信部门民共和国网络识产权的内容信息的，应当的真实性、准关于生成式人安全法》等法征得个人信息确性、客观性、工智能服务的律法规的要求；主体同意或者多样性；其他监管要求。符合法律、行政法规规定的其他情形；基本合法要求：提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。12 烁石第八条：采用人工标注时需要满足哪些具体要求？生成式人工智能产品研制中采用人工标注时，需满足以下要求：.
