人工智能术语研究阶段性成果

REPORT 人工智能术语研究阶段性成果 人工智能术语研究阶段性成果 CISS 人工智能与国际安全项目术语工作组 一、武器（系统） 1. 武器 泛指用于攻击或保卫自身的作战器械与装置，被用于直接杀伤敌人的有生力量、破坏敌方设施的器械、装置，或在遭受进攻时进行防御的器械、装置，可区分为攻击性武器与防御性武器两类。 武器装备：武器装备是作战人员用于执行和保障作战行动的武器、武器系统以及相关的其他军事技术装备的统称，是进行战争的重要物质基础，是军队战斗力生成的重要力量，是完成各种军事行动的重要支撑。a 军械：军械主要包括枪械、火炮、弹药、战术导弹、光学仪器（侦察器材，如望远镜、潜望镜、炮队镜、高炮指挥镜等）、瞄准器材、测角器材、通用雷达、指挥仪、移动电站、防暴器材、冷兵器b等一系列用于军事目的的武器与装备。 弹药：指含有火药、炸药或其他填充物，能够对目标造成损害或完成其他战术任务的物品。这包括炮弹、火炮炮弹、手榴弹、步枪榴弹、航空炸弹、火箭、导弹、鱼雷、水雷、地雷等，以及用于狩猎和射击运动等非军事用途的礼炮和弹药。c 装备：给军队配备的武器、军装、器材、技术力量等。d 2. 武器系统： 由若干功能上相互关联的武器、技术装备等有序组合，协同完成一定作战任务的有机整体。e 不可接受的致命性自主武器系统：根据《中国关于“致命性自主武器系统”问题的工作文件》f，中国认为“不可接受的”自主武器系统应满足但不限于以下五个基本特征： （1）致命性：即具有足以致命的载荷和手段； （2）全自主性：即在执行任务整个过程中均无人的介入和控制：（3）无法终止性：即启动后没有终止手段；（4）滥杀性：即不分条件、场合和对象，自动执行杀伤任务；（5）进化性：即在与环境交互过程中，通过自主学习，实现功能扩展和能力进化，且超出人的预测。 “可接受的”自主武器系统：具有较高的自主程度，但应始终处于人类控制之下，且可被安全、可信、可靠、可控地使用，人类可随时中止其运行。在军事行动中应能够遵循区分、比例、预防等国际人道主义法基本原则。g 3. 非致命性武器 非致命性武器是军队等强力部门在执勤、处突、反恐等任务中广 泛使用的武器，在不致命的前提下使目标快速失能并且失能后果具有最大概率的可逆性。非致命性武器提供了以最低限度的武力开展行动的能力，控制了暴力和防止不必要的附带伤亡和破坏。h 二、智能 / 自主平台（系统） 4. 机器人 自动执行工作的机器装置。既可以接受人类指挥，又可以运行预先编排的程序，也可以根据以人工智能技术制定的原则纲领行动。机器人的主要任务是协助或取代人类的工作，例如生产业、建筑业，或是危险的工作。i 5. 智能武器 是指配备了人工智能（AI）、传感器、自动化系统等使其具备一定程度自主决策、目标识别、跟踪和攻击能力，用于实施和保障战斗行动的武器、武器系统和与之配套的其他军事技术器材的统称。这些武器能够在复杂的战场环境中不同程度地提高作战效率和精度，并减少对人为操作的依赖。所谓智能是对人的能力延伸和发展，是人机交互环境中的一部分。人作为军事活动和智能活动的主体，对自主化程度较高的智能武器系统应拥有必要的干预能力。j 6. 自主武器系统 关于“自主性”，其主要目的应是降低军事行动中武器系统对人类及外部资源的依赖程度，提高对复杂动态环境的适应性和战场生存 性，从而更好地完成人类赋予的任务。应根据不同场景、不同程度的自主能力，有针对性规范相关武器系统的使用。如果自主能力未用于杀伤链（例如用于情报搜集和侦察的无人机），即使一些武器系统自主程度很高，其所具有的自主性也不会引发人道主义关切。 武器系统杀伤链包括观察、判断、决策、行动等多个关键环节，在某些环节具有自主功能的武器系统并不必然导致滥杀滥伤。因此，笼统地推出禁止或限制措施或将损害各国正当国防能力，甚至损害各国和平利用相关技术的权利。各方应考虑将自主武器系统分为“不可接受的”和“可接受的”两类，对“不可接受的”部分加以禁止，对“可接受的”部分加以规范，以确保有关武器系统安全、可靠、可控，遵循国际人道法及其他适用的国际法。k ——《中国关于“致命性自主武器系统”问题的工作文件》 7. 集群智能 / 群体智能 人工智能集群l：遵循统一控制的，人工智能计算功能单元的集合。 注 1：人工智能计算功能单元可包含人工智能加速处理器、人工智能服务器、人工智能加速模组等。 注 2：当由人工智能服务器组成时，人工智能集群可称为人工智能服务器集群，其中的人工智能服务器可称为节点。 群体智能m：群体智能（swarm intelligence, SI）也称为集群智能（collective intelligence, CI）……对于一个由众多简单个体组成的群体， 若其个体具有能通过彼此间的简单合作来完成一个整体任务的能力，则称该群体具有“群体智能”……群体智能的核心是由众多简单个体组成的群体能够通过相互之间的简单合作来实现某一较复杂的功能，完成某一较复杂的任务。群体智能可以在没有 集中控制并且缺少全局信息和模型的前提下，为解决复杂的分布式问题提供了可能。 8. 无人系统 无人系统指配备必要的数据处理单元、传感器、自动控制和通信系统，能够在无需搭载人类操作员的情况下发挥其力量执行指定任务的机电系统。 9. 无人（作战）平台 无人作战平台是指在没有搭载人类操作人员的情况下执行作战任务的一种武器系统。 10.无人空中平台（无人机、无人驾驶航空器、遥控驾驶航空器） 无人驾驶航空器：是指没有机载驾驶员且自备动力系统的航空器。n 遥控飞机：由遥控站操作的无人驾驶飞机。遥控飞机是无人驾驶飞机的一个子类。o 11. 无人地面平台（自动驾驶车辆、无人驾驶车辆） 无人地面平台是地面作战的重要力量，能够在没有搭载人类操作员的情况下执行各种任务。 12. 无人水面平台（无人水面艇） 无人水面舰艇是一种具备自主航行能力、通过搭载任务载荷来执行相关任务的水面舰艇。 13. 无人潜航器（遥控水下潜航器、自主 / 自治水下潜航器） 无人水下航行器是一种无需搭载人类操作员，可以自动执行任务的水下航行器。 三、智能 / 自主技术 14. 人工智能 人工智能是利用数字计算机或者数字计算机控制的机器模拟、延伸和扩展人的智能，感知环境、获取知识并使用知识获得最佳结果的理论、方法、技术及应用系统。——《人工智能标准化白皮书（2018）》 人工智能已经进入全面反映人类智能的第三代技术。第一代利用知识、算法和算力三个要素构造，第二代利用数据、算法与算力三个要素构造。为了发展安全、可信、可靠与可扩展的 AI 技术，要同时利用知识、数据、算法和算力构造。——张钹、朱军等，《迈向第三代人工智能》 15. 机器学习 机器学习指通过计算技术优化模型参数的过程，使模型的行为反映数据或经验。p作为一门学科，机器学习（Machine Learning）涉及统计学、系统辨识、逼近理论、神经网络、优化理论、计算机科学、脑科学等诸多领域。机器学习研究计算机怎样模拟或实现人类的学习 行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能，也是人工智能技术的核心。基于数据的机器学习是现代智能技术中的重要方法之一，研究从观测数据（样本）出发寻找规律，利用这些规律对未来数据或无法观测的数据进行预测。q 16. 深度学习 深度学习：通过训练具有许多隐层的神经网络来创建丰富层次表示的方法。 注：深度学习是机器学习的一个子集。——《国家标准｜ GB/T41867-2022》 深度学习：根据学习方法可以将机器学习分为传统机器学习和深度学习。深度学习是建立深层结构模型的学习方法，典型的深度学习算法包括深度置信网络、卷积神经网络、受限玻尔兹曼机和循环神经网络等。深度学习又称为深度神经网络（指层数超过 3 层的神经网络）。深度学习作为机器学习研究中的一个新兴领域，由 Hinton 等人于 2006年提出。深度学习源于多层神经网络，其实质是给出了一种将特征表示和学习合二为一的方式。——《人工智能标准化白皮书（2018 版）》 17. 神经网络 神经网络：由加权链路且权值可调整连接的基本处理元素的网络，通过把非线性函数作用到其输入值上使每个单元产生一个值，并把它传送给其他单元或把它表示成输出值。 注：虽然某些神经网络旨在模拟神经系统中神经元的功能，但大多数神经网络用于人工智能以实现连接模型。 ——《国家标准｜ GB/T 5271.34-2006》 神经网络：由一层或多层神经元组成的网络，通过权值可调的加权连接，接收输入数据并产生输出。 注 1：神经网络是连接主义方法的一个突出例子。 注 2：虽然神经网络的设计最初是受生物神经元功能的启发，但大多数神经网络的研究不再遵循这种启发。 ——《国家标准｜ GB/T41867-2022》 18. 自主控制 自主控制是在没有人的干预下，把自主控制系统的感知能力、决策能力、协同能力和行动能力有机的结合起来，在非结构化环境下根据一定的控制策略自我决策并持续执行一系列控制功能完成预定目标的能力。 自动控制r：在没有人直接参与的情况下，利用外加的设备或装置，使机器、设备或生产过程的某个工作状态或参数自动地按照预定的规律运行。 自主控制系统s：通过计算机、伺服执行机构、传感反馈机构、稳定校正环节、数 - 模及模 - 数变换与分时采样通道、支持软件等构成的能实现自稳定、自调节、自录最优、自适应等功能的系统。 19. AI 生命周期 AI 生命周期指从 AI 项目概念阶段到部署和维护阶段结束的整个过程。中国在《人工智能标准化白皮书（2021 版）》中引用国际标准化组织和国际电工组织第一联合技术委员会人工智能分委会 (ISO/IECJTC 1 /SC 42) 在 ISO/IEC 22989《人工智能概念与术语》中提出了人工 智能系统生命周期模型定义： 人工智能系统生命周期包括初始阶段、设计与开发、验证与确认、部署、运行与监测、重新评估及退出阶段。该生命周期模型源于系统和软件工程系统生命周期，并在此基础上强调了人工智能领域特性方面，包括开发运营、可追溯性、透明度及可解释性、安全与隐私、风险管理、治理等。t 四、行动与控制 20. 指挥链 指挥链在中文语境中称指挥关系（command relationship）。通常情况下，指挥链或指挥关系是指从作战指挥高层延伸到基本作战单元的这样一条持续的职权线。根据等级、编制序列和任务的不同对指挥链上各级的指挥权限进行不同的职权划分，通常从上级到下级形成指挥与被指挥关系。根据作战需要或部队编制调整，可能会进行指挥关系转换，即改变原指挥关系，形成新指挥关系。 21. 指挥控制（系统） 指挥控制是贯穿军事行动的一种重要工作。指挥员通过计划、指示、指挥控制系统等手段，掌握、调配、协调、制约作战部队和作战行动，以完成既定的作战任务。联合作战指挥控制，既包括对各种作战活动的掌控调控，也包括对各种行为主体职能行使和权责关系的规制约束。 指挥控制系统是保障指挥员和指挥机关对部队作战人员、作战行动、武器系统等实施指挥、控制、制约的系统。根据应用层级的不同，指挥控制系统可区分为战略、战役、战术级指挥控制系统。 22. 决策点 中文语境中与决策点相近的概念是定下决心（decision-making），它指的是指挥员在接受上级任务、领会上级意图后，结合对作战态势的判断而作出的行动决定。 23. 有目的的人类控制 这不是一个官方军事术语，是学者在论文中提出的概念。我们的理解是，自主武器系统或致命性 AI 赋能武器系统在目标核查、锁定目标、实施打击前等关键任务点，由人类进行最后确认，而不是完全依靠传感器、自主武器系统、或致命性 AI 武器系统的预测或判断。 五、人机关系 24. 人机交互 人机交互是指人类用户与软硬件单元结合的计算机系统间进行信息输入和输出的交互活动，以协作实现符合人类需求的任务目标