通用人工智能AGI等级保护白皮书

引言 党的二十大提出，要建设现代化产业体系，推动战略性新兴产业融合集群发展，构建人工智能等一批新的增长引擎。2023年4月28日，中共中央政治局召开会议，指出要重视通用人工智能发展，营造创新生态，重视防范风险。 当前，通用人工智能已成为继移动互联网技术之后最大的一波技术浪潮，而预训练大模型作为人工智能从专业智能走向通用智能的关键技术，在全球范围内引发科技巨头争相布局、掀起创业热潮的链式反应，同时也在技术合规、网络安全、隐私保护及社会伦理法律等方面带来了新的风险和挑战。只有有效应对这些风险和挑战，才能使通用人工智能真正服务于社会和产业，确保国家安全、企业安全和个人安全不受威胁。 为贯彻落实国家发展新一代人工智能的决策部署，全面贯彻总体国家安全观，公安部第三研究所充分发挥在网络等级保护领域国家队的优势，并依托国家级创新平台——网络安全等级保护与安全保卫技术国家工程研究中心，成立通用人工智能安全工作组，旨在重点研究通用人工智能发展现状、安全风险、网络安全等级保护合规需求以及赋能等级保护场景等，并初步形成《通用人工智能等级保护白皮书（2023版）》，全面介绍当前公安部第三研究所在通用人工智能等级保护工作方面研究进展情况，分享相关工作经验，为推动我国人工智能高质量发展和全方位各领域高水平应用保驾护航。 术语和定义 1、人工智能ArtificialIntelligence，AI 人工智能是一门研究如何使计算机能够模拟、模仿和执行人类智能活动的科学与技术。它涉及构建智能系统，使其能够感知、理解、学习、推理、决策和交互，以解决复杂的问题和执行各种任务。 2、通用人工智能ArtificialGeneralIntelligence，AGI 通用人工智能是一种能够像人类一样拥有智能、学习、推理、解决问题和适应新环境的人工智能系统，也称为强人工智能。AGI的目标是实现人类智能的所有方面，包括感知、认知、思考、学习和创造等。 3、狭义人工智能ArtificialNarrowIntelligence，ANI 狭义人工智能是一种专注于解决特定问题或执行特定任务的人工智能系统，也称为弱人工智能。ANI的能力通常是基于预定义的算法和规则，无法像人类一样适应新环境或解决未知问题。 4、超级人工智能ArtificialSuperintelligence，ASI 超级人工智能是一种超越人类智能的人工智能系统，也称为强人工智能。目标是实现比人类智能更高的智能水平，能够解决人类无法解决的问题。 5、预训练大模型Pre-trainedLargeMode，PLM 预训练大模型是指在大规模数据集上进行预训练的模型。预训练是指在一个任务或数据集上进行初始训练，以学习通用的特征表示或模型参数。 6、模型即服务ModelasaService，MaaS 模型即服务是一种基于云计算的AI服务模式，它提供了一种将机器学习和深度学习模型转换为可重复使用的服务的方式。 目录 引言..............................................................................................................I术语和定义................................................................................................II1通用人工智能发展现状.........................................................................11.1通用人工智能的组成架构.........................................................21.2通用人工智能参与方.................................................................71.3通用人工智能网络安全应用趋势.............................................92通用人工智能安全风险分析..............................................................122.1传统安全风险............................................................................122.2数据泄露和滥用风险...............................................................152.3模型可靠性风险........................................................................172.4大模型滥用误用风险...............................................................203通用人工智能等级保护合规需求......................................................233.1安全物理环境............................................................................233.2安全通信网络............................................................................273.3安全区域边界............................................................................293.4安全计算环境............................................................................323.5安全管理中心............................................................................393.6安全管理制度............................................................................413.7安全管理机构............................................................................443.8安全管理人员............................................................................463.9安全建设管理............................................................................49 3.10安全运维管理..........................................................................544通用人工智能赋能等级保护..............................................................604.1网络安全等级保护知识赋能场景...........................................614.2等级测评赋能场景....................................................................684.3等级保护培训赋能场景...........................................................735总结.......................................................................................................75参考文献...................................................................................................76 1通用人工智能发展现状 本章主要介绍通用人工智能的基本情况，包括其发展历史、现状以及组成架构等内容。本文还将通过从技术角度出发来分析通用人工智能在网络安全领域的应用趋势。 人工智能（ArtificialIntelligence,AI）的出现和发展具有一个漫长的历史过程。简单来说，从20世纪50年代开始，科学家们就开始了对人工智能的研究，并提出了一些理论和算法，但由于技术和计算能力的限制，最初的人工智能应用相对较为简单，甚至受到了一些挫折和停滞。到了21世纪初，随着计算机硬件技术的快速发展，加之大量数据的可用性，以及机器学习、深度学习等新技术的兴起，人工智能得以迎来了全面的发展。 当前，人工智能大致可分为狭义人工智能（ANI）、通用人工智能（AGI）和超级人工智能（ASI）。 狭义人工智能（ANI）指的是一种专注于解决特定问题或执行特定任务的人工智能系统，也称为弱人工智能。ANI的能力通常是基于预定义的算法和规则，无法像人类一样适应新环境或解决未知问题。狭义人工智能的实现基础是通过收集和分析大量的数据，利用机器学习、深度学习等技术来训练网络模型，从而使得机器可以从输入的数据中自动提取特征和算法，进而给出相应的输出结果。其目前应用非常广泛，如语音识别、图像识别、自然语言处理、推荐算法、智慧城市、智能家居、机器人等领域中都有大量的应用案例。 通用人工智能（AGI），也称为强人工智能或者深度人工智能，是一种能够像人类一样拥有智能、学习、推理、解决问题和适应新环境的人工智能系统。与目前较为常见的ANI相比，AGI具有思考、理解、学习和应用其智能来解决复杂问题的能力。目前，由于技术的限制和人工智能领域的研究方向问题，实现AGI仍然是一项挑战性任务。如果能够实现AGI，可以为解决许多关键问题提供极大帮助，例如医疗和健康、环境保护、教育、金融和安全等领域。但是，要实现AGI，需要克服诸如数据获取、算法设计、计算性能、伦理和法律等多种难题。 超级人工智能（ASI）是一种超越人类智能的人工智能系统，也称为强人工智能。它具备极高的智慧水平和创造力，能够在不同领域中做出复杂的判断、解决问题并创造出新的知识。其不仅能理解人类的情感和经历，还能唤起人类的情感、信念和欲望。与狭义人工智能和通用人工智能不同，超级人工智能更像是一种人工生命形态，而非纯技术的产物。 人工智能的发展也带来了许多挑战和讨论，包括数据隐私、伦理道德、人机关系等方面的问题。然而，人工智能的应用前景仍然广阔，它有望在各个领域带来更多的创新和突破，为人类生活和社会发展带来积极的影响。 1.1通用人工智能的组成架构 本小节将主要介绍通用人工智能的组成架构，包括平台层、模型 层、数据层和应用层等，并阐述每一层的作用和主要内容。本文还将介绍各层之间的关系以及它们的合作模式，以便把握AGI的整体运行机制。 1.1.1平台层 平台层是指用于搭建、训练和部署AGI模型的基础设施和工具集合。这一层的目标是为开发者提供一个高效、灵活、可扩展的环境，以支持不同类型的AGI应用程序和服务。 通用人工智能的平台层通常包括计算平台、存储平台、开发工具和框架、API和SDK，这些平台可以是云端的、本地的或是混合的。 其中计算平台用于处理AGI模型训练和推理所需的计算任务，通常采用GPU、