工业和信息化领域人工智能安全治理标准体系建设指南（2025）

为深入贯彻落实党中央、国务院关于加快发展人工智能的部署要求，贯彻落实《国家标准化发展纲要》《全球人工智能治理倡议》《国家人工智能产业综合标准化体系建设指南（2024版）》，根据工业和信息化部人工智能标准化技术委员会审议通过的《人工智能标准化技术委员会标准体系2025年）》，进一步加强人工智能安全领域标准化工作系统谋划，构建保障人工智能产业高质量发展和实现高水平安全的标准体系，夯实标准对推动技术进步、促进企业发展、引领产业升级、保障产业安全的基础性、引领性、支撑性作用，更好推进人工智能赋能新型工业化，加速迈向制造强国和网络强国，特制定本指南。 一、背景情况 习近平总书记高度重视统筹人工智能发展和安全，强调“要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控”。党的二十届三中全会明确提出要“建立人工智能安全监管制度”。习近平总书记的系列重要指示批示精神为开展人工智能发展和安全工作指明了方向，提供了根本遵循。 近年来，我国人工智能产业在技术创新、产品创造和行业应用等方面实现快速发展，在人工智能安全治理标准制定方面也取得了一定进展，但仍面临数据安全、网络安全等方 面挑战。立足长远，构建人工智能安全治理标准体系迫在眉睫。一是提升人工智能企业安全能力建设，培育壮大人工智能产业,服务本土企业长远发展。二是培育人工智能安全技术及产品应用，提升人工智能赋能安全能力，为人工智能技术高质量应用、数字经济和实体经济融合提供坚实支撑。三是明确人工智能技术研发、产品迭代安全基线，促进企业在安全框架内创新发展，增强产业主体的信用信心，营造安全的发展环境，同时促进技术共享、合作共赢，加速技术成果在安全可靠的前提下落地转化。四是提升我国人工智能技术产品的国际竞争力，通过将我国先进的人工智能安全防护理念、实践成果推向国际社会，吸引国际合作资源，为本土企业拓展海外业务筑牢根基。 二、总体要求 （一）指导思想 本指南以习近平新时代中国特色社会主义思想为指导，全面贯彻党的二十大和二十届二中、三中全会精神，以人工智能赋能新型工业化为主线，遵循统筹发展和安全的基本原则，构建工业和信息化领域人工智能安全治理体系，为产业提供人工智能安全的技术和行动指引。以高水平安全促进高质量发展，充分发挥产业主体在人工智能安全治理的重要作用，加速培育壮大人工智能产业，构建安全、可靠、繁荣的人工智能产业发展环境。 （二）建设目标 短期目标（1-2年）：急用先行，快速突破。初步构建工 业和信息化领域人工智能安全标准体系框架，明确标准体系的总体架构、分类和关键标准领域。制定一批急需急用的标准，为行业提供基本的安全规范和技术指引。推动相关标准的试点应用，在部分重点企业和项目中开展标准实施的验证和反馈工作，及时发现和解决标准在应用过程中存在的问题，为标准的完善和推广奠定基础。 长期目标（3-5年）：全面保障，产业落地。完善工业和信息化领域人工智能安全标准体系，补充和细化各领域的安全标准，涵盖人工智能系统的设计、开发、部署、运行、维护等全生命周期，覆盖工业和信息化领域人工智能应用的各个方面，并促进与国际标准的对接协调。同时，加强标准的推广应用，规范工业和信息化产业主体人工智能应用，提高行业整体的安全水平，为传统产业的高端化升级和前沿技术的产业化落地提供有力保障。 三、建设思路 （一）人工智能安全治理标准体系结构 人工智能安全治理标准体系结构包括“A治理能力”、“B基础安全”、“C网络安全”、“D数据安全”、“E算法模型安全”、“F应用安全”、“G赋能安全”等7个部分，如图1所示。 其中，治理能力标准主要规范人工智能支撑能力和管理能力，为实现人工智能安全治理夯实基础底座。基础安全标准主要规范硬件平台、软件平台、智算中心、供应链等方面安全，确保人工智能基础设施安全稳定。网络安全标准主要规范网络安全的防护、监测、管理，以及网络安全风险评估，确保网络安全可靠运营。数据安全标准主要规范基础数据服务、训练数据、业务数据等方面安全，明确人工智能数据安全要求。算法模型安全标准主要规范算法、模型等方面安全，保障人工智能技术创新安全可控。应用安全标准主要指引智能产品应用、智能服务应用、智能体、信息等方面安全，保障产业开放创新和智能发展。赋能安全标准主要指引人工智能赋能新型工业化应用、行业应用，以及赋能网络、数据、信息、业务等方面安全，推动人工智能全方位赋能发展和安 全。 （二）人工智能安全治理标准体系框架 人工智能安全领域标准体系框架主要由治理能力、基础安全、网络安全、数据安全、算法模型安全、应用安全、赋能安全等7个部分组成，如图2所示。 四、建设内容 （一）人工智能治理能力 人工智能治理能力标准主要包括支撑能力、管理能力等标准，为安全治理标准体系奠定基础底座。 1.支撑能力。规范人工智能系统全生命周期的安全治理技术能力要求，包括验证、监测、防护、溯源、证真、鉴伪等安全支撑技术；透明性、可解释性、鲁棒性、公平性、可靠性、可追溯性、隐私保护以及用户权益保障等治理支撑技术。 2.管理能力。规范人工智能的技术研发和运营服务安全治理要求，包括可信赖研发管理、风险分类分级、风险管理能力、风险影响评估、风险应急响应等标准。 （二）人工智能基础安全 人工智能基础安全标准主要包括硬件平台安全、软件平台安全、智算中心安全、供应链安全等标准，为人工智能提供基础运营环境安全保障。 1.硬件平台安全。规范硬件平台的安全设计、生产和测试要求，包括芯片、传感器、计算设备等标准，芯片抗攻击能力、传感器数据完整性、计算设备的物理安全性等能力评估，硬件设备的安全设计原则、安全功能模块及接口规范等安全要求，硬件安全性能的物理攻击模拟、故障注入测试等测评方法。 2.软件平台安全。规范软件平台的安全性技术要求，包括系统软件的漏洞风险、开发框架的安全性，软件开发生命 周期中的安全规范、安全编码标准及漏洞管理流程的安全框架要求，软件平台的访问控制、权限管理、数据保护及安全审计要求，代码审计、渗透测试、风险测试方法和评估标准。 3.智算中心安全。规范面向人工智能的算力中心安全要求，包括面向人工智能的大规模计算集群、新型数据中心、智算中心、算力网络等基础设施的安全要求，访问控制、加密传输等网络安全、数据安全、信息安全技术要求标准，以及安全防护、应急响应等管理标准。 4.供应链安全。规范人工智能硬件、软件、算法、模型等供应链安全方面的要求，包括供应商评估、供应管理、风险识别和防范等方面。 （三）人工智能网络安全 规范人工智能网络安全要求，包括网络安全防护、网络安全监测、网络安全管理等。 1.网络安全防护。规范人工智能相关产品、服务的网络安全防护要求，结合人工智能系统全生命周期不同阶段存在的网络安全风险，明确需要的安全措施，例如攻击防范、漏洞管理、模型更新安全、安全应急响应等。 2.网络安全监测。规范开展人工智能网络安全监测/监管的安全要求，包括通用要求、技术要求、接口规范等。 3.网络安全管理。规范人工智能产品或服务运营单位开展网络安全定级备案、资产安全管理、漏洞安全管理等安全管理工作时需遵循的要求。 4、网络安全风险评估。规范人工智能场景开展网络安全 风险评估应遵循的安全要求，包括网络安全评估指南、实施方法、评估要求等。 （四）人工智能数据安全 规范人工智能全生命周期数据安全要求，包括基础数据服务安全、训练数据安全、业务数据保护等。 1.基础数据服务安全。规范人工智能技术相关基础数据服务安全要求，包括数据库存储、数据清洗、数据标注、数据分析、数据共享、来源可溯、环境可信等服务安全。 2.训练数据安全。规范人工智能预训练和优化训练数据及其处理活动的安全要求，包括数据通用安全以及数据收集、传输、存储、使用等环节安全，训练数据安全防护、安全标注、质量治理、测试验证、重要数据识别、安全互操作等标准。 3.业务数据保护。规范运用人工智能技术相关业务的数据安全保护要求，包括数据完整性、保密性、可用性等。规范人工智能技术、产品或服务应用过程中涉及业务数据的安全要求，包括重要数据识别、数据分类分级、数据处理全过程安全、用户个人信息保护、匿名化等标准。 （五）人工智能算法模型安全 人工智能算法模型安全标准主要包括算法安全、模型安全等标准。 1.算法安全。规范深度学习算法、机器学习算法等人工智能算法安全具体要求，研制算法设计的安全可信、算子库安全等标准，算法可靠性、可控性、准确性、可解释性等具 体要求。 2.模型安全。规范模型训练、推理、部署等环节的安全要求，包括大模型安全要求、混合专家模型安全要求、模型部署安全、模型安全评测指标与方法、多模型协同调度安全等标准，人机混合增强智能、群体智能、跨媒体智能、具身智能、模型私有化部署等技术应用中的模型安全要求。 （六）人工智能应用安全 人工智能应用安全结合新型工业化、智能网联汽车、生成式人工智能、生物特征识别、智能体等典型应用，提出新型工业化应用安全、行业应用安全、智能产品应用安全、智能服务应用安全，以及智能体安全等新产品形态安全的要求和评估方法。 1.新型工业化应用安全。规范人工智能技术在制造业全流程智能化的应用安全要求，包括工业研发设计、中试验证、生产制造、营销服务、运营管理等制造业全流程网络安全防护、评测指标与方法、安全运营、风险评估等标准。 2.行业应用安全。规范人工智能在不同行业中的应用安全要求，涵盖人工智能行业应用安全开发、监控审计等能力评估，人工智能应用的安全架构框架要求，应用数据隐私保护、合规性要求规范，人工智能应用的安全测试评估方法。 3.智能产品安全。规范人工智能产品在具体应用场景下的安全要求，包括智能机器人、智能运载工具、智能移动终端、数字人、智能系统、生物特征识别终端等智能产品安全防护与检测标准。 4.智能服务安全。规范面向特定业务场景提供的人工智能服务安全保障要求，包括智能软件开发安全、智能设计安全、模型即服务安全、生成式人工智能服务安全、生物特征识别服务安全、智能产品辅助操作安全、智能服务安全运营、智能服务安全风险评估、智能服务安全保障能力评价等标准。 5.智能体安全。规范以通用大模型为核心的智能体实例安全要求，包括智能体内生安全、智能体数据接口安全、人机协作安全、智能体自主操作安全、多智能体协作安全等标准。 6.信息安全。规范深度合成、生成式人工智能等在应用过程中的内容安全等方面的要求，制定安全规范和评估方法。规范利用深度合成和生成式人工智能技术生成内容、算法审核及评估、合成鉴伪检测技术等内容管理的安全要求，包括生成内容的模型引导、模板制作、内容审核等方面的技术规范要求，算法审核及评估的算法机制机理审核、信息发布审核、涉生成违法违规内容审查等能力评估，合成鉴伪检测技术的测评要求、评测方法和工具箱、指标体系等评价标准。 （七）人工智能赋能安全 人工智能赋能安全标准主要包括人工智能赋能网络、数据、信息、业务和其他安全等方面的要求。 1.赋能网络安全。指导应用人工智能提升网络安全的效能。包括安全大模型底座，网络安全大模型能力要求，人工智能赋能网络安全产品、网络安全运营、智能问答、加密流量监测、钓鱼邮件分析、暴露面监测、威胁情报智能挖掘、 攻防演练靶场、恶意程序分析识别、WEB攻击检测、渗透测试、恶意代码检测、异常行为分析、智能安全运营等网络安全领域的技术指南、能力要求、评估方法等。 2.赋能数据安全。指导应用人工智能提升数据安全的效能。包括人工智能技术应用于数据收集、数据分类分级、数据标注、数据存储等关键环节中，数据资产识别、数据资产血缘分析、数据合规检测、数据风险评估、数据暴露面检测、数据访问异常识别、数据泄露溯源、数据安全防护、API安全防护、数据安全审计和其他数据安全领域的技术指南、能力要求、评估方法等。 3.赋能信息安全。指导应用人工智能技术，提升信息安全的效能。包括人工智能技术应用于深度伪造内容检测、互联网舆情监测、不良信息识别、反诈