探索人工智能和自主系统的合成数据——入门指南

致谢裁研所核心资助者的支持为裁研所的所有活动奠定了基础。本出版物由欧盟资助，是裁研所安全与技术计划的一部分，该计划得到了捷克、法国、德国、意大利、荷兰、挪威、瑞士和联合王国政府以及微软公司的支持。作者感谢Giacomo Persi Paoli博士和Ioana Puscas博士为本文提供的建议和帮助，感谢Tim Watson教授和Leslie Sikos博士为本研究做出的宝贵贡献。关于裁研所联合国裁军研究所（裁研所）是联合国内部一个由自愿捐款供资的自主机构。裁研所是世界上为数不多专注于裁军的政策研究所之一，提供裁军与安全方面的知识，并促进这方面的对话和行动。裁研所总部设在日内瓦，协助国际社会提出切实可行的创新想法，以找到解决重大安全问题的办法。引文H. Deng，《探索人工智能和自主系统的合成：入门指南》，瑞士日内瓦：裁研所，2023年。注本出版物所使用的名称和材料的编排方式并不意味着联合国秘书处对任何国家、领土、城市或地区或其当局的法律地位，或对其边界或界线的划分表示任何意见。出版物中表达的观点仅由作者本人负责，不一定反映联合国、裁研所、其工作人员或赞助者的观点或意见。 iwww.unidir.org©裁研所2023 目录关于安全与技术方案..........................................................................................................................................................2关于作者...............................................................................................................................................................................2缩写与缩略语......................................................................................................................................................................3内容提要...............................................................................................................................................................................4导言.......................................................................................................................................................................................51.了解合成数据..................................................................................................................................................................61.1什么是合成数据？....................................................................................................................................................................61.2现有数据挑战..............................................................................................................................................................................71.2.1专题1——数据管理.........................................................................................................................................................71.2.2专题1.3生成合成数据的方法1.3.1基于规则的方法................................................................................................................................................................91.3.2基于代理的建模..............................................................................................................................................................101.3.3深度学习算法...................................................................................................................................................................102.合成数据与国际安全....................................................................................................................................................132.1合成数据的附加值2.2风险..............................................................................................................................................................................................17结论.....................................................................................................................................................................................20参考文献.............................................................................................................................................................................20 12——数据质量.........................................................................................................................................................8................................................................................................................................................................9..................................................................................................................................................................15 关于安全与技术方案当代科学技术的发展为国际安全与裁军带来了新的机遇和挑战。裁研所的安全与技术方案（SecTec）力求建立对特定技术创新的国际安全影响和风险的了解和认识。该计划召集利益攸关方探讨各种想法，并就如何应对这些想法形成新思维。关于作者Harry Deng是裁研所安全与技术方案的顾问，他的工作重点是新兴技术对国际安全的影响。他持有滑铁卢大学全球治理硕士学位，目前是该校的博士生。请在推特上关注Harry @hwrdeng。 2 缩写与缩略语AIGANGGEICTIoTOEWGVAE 内容提要近年来，人工智能（AI）和机器学习领域的进步为增强人类能力和改善各种自主系统的功能，包括在国际安全领域，带来了前所未有的机会。然而，在防卫领域，用于训练日益复杂的人工智能系统的高质量、高度多样化和相关真实世界的数据集却十分稀缺。因此，合成数据正逐渐成为开发和训练人工智能系统的数据工具箱中必不可少的工具。合成数据的特点和潜在优势，以及该技术在各个领域的成熟应用，使其成为围绕在国际安全背景下使用人工智能展开辩论的一个重要话题。本文简要概述了合成数据，包括其特征、生成方式、附加值、风险以及其在防卫组织和军事行动中的潜在用例。此外，本文还概述了现有数据面临的挑战和限制，这些挑战和限制促使合成数据成为开发日益复杂的人工智能系统的重要工具。迄今为止，合成数据在国际安全领域的使用大多停留在实验和探索阶段。然而，合成数据的特点可能会对人工智能系统的训练产生有利影响。特别是，合成数据可以生成高度多样化甚至新颖的数据集，对数据属性进行精细控制，在必要时自动注释或标注数据，并具有成本效益。本文探讨了合成数据的主要特点如何使军方和防卫组织受益，使其能够在防御和进攻型自主系统中集成更强大、更可靠的人工智能系统。虽然合成数据有利于训练人工智能系统，并有助于缓解军方和防卫组织面临的一些数据问题，但它并非灵丹妙药，也伴随着风险和挑战。使用合成数据所带来的益处将取决于各组织驾驭这些风险的能力，取决于其是否能以负责任和安全的方式，并按照法律要求和道德价值观使用通过合成数据训练的人工智能系统。 4 导言人工智能（AI）以及支持其使用的机器学习模型的进步，使其广泛应用于优化性能以应对日益复杂的任务和工作环境。在国际安全领域，这一点尤为重要，因为人工智能的整合带来了前所未有的法律、伦理、安全和安全挑战。在国际安全领域，1人们正在探索将人工智能用作决策支持、行动规划和情报分析的工具，人工智能可集成到进攻和防御型自主系统中，如目标识别系统、集群机器人技术和网络行动。事实上，有人认为，人工智能的使用在某些任务中的表现要优于传统方法——例如，在提高防御性网络基础设施的稳健性或