网络安全标准实践指南：人工智能应用安全指引 总则（征求意见稿）

——人工智能应用安全指引总则 （征求意见稿v1.0-202601） 2026年01月 本文档可从以下网址获得：www.tc260.org.cn/ 前言 《网络安全标准实践指南》（以下简称《实践指南》）是全国网络安全标准化技术委员会（以下简称“网安标委”）秘书处组织制定和发布的标准相关技术文件，旨在围绕网络安全法律法规政策、标准、网络安全热点和事件等主题，宣传网络安全相关标准及知识，提供标准化实践指引。 本文件起草单位：中国电子技术标准化研究院、国家广播电视总局广播电视科学研究院、中国交通通信信息中心、国家卫生健康委统计信息中心、教育部教育管理信息中心、应急管理部大数据中心、中国工商银行、中国农业银行、北京中关村实验室、上海人工智能创新中心、国家工业信息安全发展研究中心、国家计算机网络应急技术处理协调中心、中央网信办数据与技术保障中心、工业和信息化部电子第五研究所、中国信息安全测评中心、国家信息技术安全研究中心、北京火山引擎科技有限公司、北京快手科技有限公司、阿里云计算有限公司、华为技术有限公司、小米科技有限责任公司、蚂蚁科技集团股份有限公司等。 本文件主要起草人：姚相振、郝春亮、张妍婷、赵韡、王磊、杨伟平、贺敏、王志伟、张震、陈朴、李岳峰、张卫伟、吕飞霄、李子威、宋昊、郭建领、谷晨、彭骏涛、邵萌、赵冉、王博、吴巍、申东洋、吴波、李琦、马梦娜、刘栋、孟令宇、刘北水、王盈、杜渐、戴明、落红卫、初翎祯、林冠辰、卢春景、郭晓霞、程佩哲、许啸、张荣、柳嘉琪、李寒雨、李申、谭龙、吴子坚、田小龙、曹岳、吕莹楠、王立夫、于新颖、黄冬秋。 声明 本《实践指南》版权属于网安标委秘书处，未经秘书处书面授权，不得以任何方式抄袭、翻译《实践指南》的任何部分。凡转载或引用本《实践指南》的观点、数据，请注明“来源：全国网络安全标准化技术委员会秘书处”。 摘要 以高水平人工智能安全标准保障高质量发展，全面提升各行业人工智能应用安全水平，依据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律，以及《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等规定，制定人工智能应用安全指引系列实践指南。 人工智能应用安全指引系列文件包含通用文件以及行业领域文件两类。通用文件提供通用性安全指导，适用于各行业领域开展人工智能应用活动。行业领域文件给出适用于特定行业领域的实践指引。 本《实践指南》属于通用文件。行业领域开展人工智能应用活动，在符合本《实践指南》的基础上，还应进一步满足行业领域文件相关内容。 目录 1范围......................................................................12规范性引用文件............................................................13术语和定义................................................................14缩略语....................................................................15基本原则..................................................................16人工智能应用通用安全指引..................................................26.1前期规划阶段.........................................................26.2设计开发阶段.........................................................46.3验证确认阶段.........................................................56.4部署阶段.............................................................66.5运行和监控阶段.......................................................86.6持续验证评估阶段.....................................................96.7退役下线阶段.........................................................96.8其他................................................................10附录A（规范性）引用文件清单.................................................11附录B（规范性）术语表.......................................................12附录C（规范性）缩略语表.....................................................15附录D（资料性）人工智能应用过程.............................................16附录E（资料性）人工智能应用相关角色.........................................18附录F（资料性）人工智能应用其他相关安全要求情况.............................19参考文献....................................................................21 1范围 本文件规定了人工智能应用安全总则，包括基本原则以及人工智能应用的前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的通用安全指引。 本文件适用于各行业领域组织开展人工智能应用的安全风险防范与管理，可为有关监管部门和第三方测试评估机构提供参考。 2规范性引用文件 本文件附录A中所列文件中的内容通过本文件中的规范性引用而构成本文件必不可少的条款。其中,注日期的引用文件,仅该日期对应的版本适用于本文件；不注日期的引用文件,其最新版本(包括所有的修改单)适用于本文件。 3术语和定义 GB/T25069和GB/T41867以及本文件附录B中界定的术语和定义适用于本文件。 4缩略语 本文件附录C中的缩略语适用于本文件。 5基本原则 人工智能应用安全基本原则包括： a）造福人类，促进发展。人工智能的应用以造福人类、服务社会和可持续发展为导向，在开展应用前明确其社会价值，避免人工智能技术的盲目应用。 b）识别风险，分级保护。面向人工智能应用全过程进行安全风险识别，对人工智能应用进行分级保护，实现资源的合理配置与精准的安全治理。 c）提高能力，覆盖全程。对人工智能安全能力成熟度进行评估，提高人工智能应用全过程的安全能力，提升人工智能应用整体安全水平。 d）加强测评，客观验证。加强人工智能应用安全测评，客观验证人工智能应用安全状态及防护措施的有效性，为人工智能应用的监管提供依据。 e）面向变化，动态调整。建立动态适应人工智能技术迭代与应用风险变化的调整机制，更新技术与管理相关安全防护措施，提升人工智能应用的安全性、可靠性。 f）以人为本，可管可控。坚持以人为本，确保人工智能最终控制权归属于人类，避免人工智能应用脱离人类控制。 6人工智能应用通用安全指引 6.1前期规划阶段 前期规划安全指引包括： a)综合分析人工智能应用对伦理安全、经济效益和社会环境的影响，研判开展相应人工智能应用的必要性和合理性。注：对伦理安全的影响参考TC260-PG-20211A《网络安全标准实践指南人工智能伦理安全风险防范指引》。b)围绕人工智能技术内生安全风险、人工智能应用安全风险以及人工智能应用衍生风险开展安全风险识别以及风险分类。注：安全风险识别参考《人工智能安全治理框架》2.0。c)按照安全风险识别结果，结合人工智能应用场景安全属性以及智能化水平等，综合研判确定人工智能应用安全分级。注：安全分级参考我国人工智能应用安全分类分级有关国家标准，分为低安全风险、一般安全风险、较大安全风险、重大安全风险、特别重大安全风险五级。d)梳理人工智能应用前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等阶段所涉及的建设部署方、运行管理方，对每个相关方分别按照其所涉及的阶段开展人工智能安全能力成熟度评估，判定成熟度级别。注：能力成熟度评估参考我国人工智能安全能力成熟度评估有关国家标准。e)根据人工智能应用安全分级结果，以及应用各阶段所涉及的建设部署方、运行管理方人工智能安全能力成熟度等级，针对每个相关方开展人工智能安全能力提升或更换，使各单位人工智能安全能力成熟度等级均不低于应用安全分级。 f)结合人工智能应用场景、识别安全风险情况，以及建设部署方、运行管理方人工智能安全能力成熟度情况，确定人工智能应用安全措施，制定监测预警以及应急响应方案。注：监测预警及应急响应方案制定参考TC260-PG-202515A《网络安全标准实践指南生成式人工智能服务安全应急响应指南》。g)考虑人工智能应用对生命财产安全的影响，体现人类最终控制原则，规划一键接管、版本回退、紧急关停等安全措施，保障极端情况下干预止损的敏捷性。h)明确人工智能应用安全的第一责任人，建立覆盖前期规划、设计开发、验证确认、部署、运行和监控、持续验证评估、退役下线等各阶段的安全责任机制，以及覆盖模型选型、数据源选取、部署方式选择等关键决策及关键操作记录，支撑重大安全事件的责任追溯。 6.2设计开发阶段 设计开发安全指引包括： a)在算法规则、模型框架、系统架构等角度，提升人工智能技术可解释性、公平性、鲁棒性、可靠性、透明性、隐私保护、价值观对齐等内生安全能力设计。b)基于开源资源进行二次开发的，在尊重研发者智力投入的基础上，遵循相应开源协议规范。对所使用的开发框架、代码等进行安全审计，并关注开源框架安全及漏洞相关问题，识别和修复潜在的安全漏洞。 c)针对模型研发和二次开发所使用的训练数据来源，在来源选择、不同来源搭配、来源管理和追溯等方面提高安全水平。注：参考GB/T45654-2025《网络安全技术生成式人工智能服务安全基本要求》中相关部分内容。d)规范训练数据标注流程，采用交叉标注、结果审计等质量控制方法，提升标注准确性和可靠性，降低个体差异和个人偏见对标注质量的影响。注：参考GB/T45652-2025《网络安全技术生成式人工智能数据标注安全规范》中相关部分内容。e)具备数据安全管理机制，包括对各模态的训练数据的清洗过滤，重点去除违法不良信息和个人隐私信息；对数据源进行有效的安全检查，防止被投毒等。注：参考GB/T45652-2025《网络安全技术生成式人工智能预训练和优化训练数据安全规范》中相关部分内容。f)使用安全透明的训练推理计算框架，提升模型算法训练环境的安全性。注：参考GB/T45958-2025《网络安全技术人工智能计算平台安全框架》中5.1资源层安全功能要求。 6.3验证确认阶段 验证确认安全指引包括： a)结合设计开发阶段对人工智能技术的内生安全能力设计，根据确定的可靠性、公平性、透明性、可解释性等指标开展验证确认。注：参考GB/T42888-2023《信息安全技术机器学习算法安全评估规范》中5.1.3a）构建测试数据集。 b)采用人工验证、自动化评估验证、交叉验证等方式，根据人工智能