GB/T45674—2025 网络安全技术 生成式人工智能数据标注安全规范

本文件针对生成式人工智能数据标注过程中的安全问题，提出了安全规范，包括数据标注平台或工具安全要求、数据标注规则安全要求、数据标注人员要求和数据标注核验要求，并描述了数据标注安全评价方法。

数据标注平台或工具安全要求：应定期进行安全评估和漏洞修复，确保平台或系统能详细记录用户操作和系统活动，提供安全的物理环境，并对自动化标注工具进行合规性检查。

数据标注规则安全要求：应包括标注目标、数据格式、标注方法、质量指标等内容，并针对功能性数据标注与安全性数据标注分别制定规则，明确标注任务类型，包含安全风险识别方法、参考示例、质量及安全性核验方法、应急响应和通知机制等。

数据标注人员要求：应进行安全培训，考核合格者方可上岗，并根据任务需求进行人员角色划分和任务分配，包括标注执行人员、标注审核人员、标注仲裁人员、标注监督人员等，并对人员权限进行管理。

数据标注核验要求：安全性标注数据应具有全面性和代表性，标注比例不低于3%，并采用人工核验或混合核验方式，核验内容包括理解准确、问答一致、保证质量等，对发现的问题进行纠正或重新标注，并形成可审查的记录文档。功能性标注核验应确保数据不包含安全风险信息，响应信息内容准确、有用、时效性、逻辑性、易读性等，提示信息和响应信息标注质量均应进行全面核验。安全性标注核验应确保响应信息对安全风险内容进行安全、合理的响应，每一条安全性标注数据至少由一名审核人员审核通过，未通过安全性核验的标注数据数量超过5%时作废该批次标注数据。

数据标注安全评价方法：针对数据标注平台或工具安全要求、数据标注规则安全要求、数据标注人员要求和数据标注核验要求分别提出了评价方法，包括审查记录、检查实际使用情况、模拟操作等，并对结果进行判定。