中国先进的人工智能研究（英）

智科 中国先进的人工智能研究“将军”人工监测中国的路径情报能作者Wm. C. 汉纳斯 张惠美 丹尼尔·周 布莱恩·弗莱格2022年7月技 乔治城大学沃尔什外交学院安全与新兴技术中心（CSET）成立于2019年1月，是一个研究机构，致力于研究新兴技术对安全的影响，支持安全和技术研究的学术工作，并向政策界提供无党派分析。CSET旨在培养一代政策制定者、分析师和外交官，以应对新兴技术的难题和机遇。CSET专注于人工智能，先进计算和生物技术进步的影响。CSET.GEORGETOWN。EDU | CSET@GEORGETOWN.EDU 2022年7月中国先进的人工智能研究监控中国通往“通用”人工智能的道路作者Wm. C. 汉纳斯 张惠美 丹尼尔·周 布莱恩·弗莱格 印刷和电子分销权© 2022 年由安全与新兴技术中心颁发。本作品根据知识共享署名 - 非商业性使用 4.0 国际许可协议进行许可。要查看此许可证的副本，请访问：https://creativecommons.org/licenses/by-nc/4.0/。封面插图：中文《智能科学与技术》。文档标识符doi: 10.51593 / 20210064 内容执行概要的介绍1 |一般AI:定义和途径A.整流的名字:“美国国际集团”或“一般人工智能”B.五个理论路径一般人工智能2|中国先进的ai进行种子列表C.中国的主流先进的人工智能方法D.受大脑启发的AI，连接组学，全脑仿真E.脑-机接口和神经形态芯片3|对安全监测F.为什么中国建立一个人工智能“WATCHBOARD ?”G.创建一个数据模型的问题H.WATCHBOARDING和监控4|系统操作I.早期项目的效用的例子“一般人工智能”j .中国专家意见建议附录:指标和关键字列表尾注3 V 172129434753安全中心和新兴技术我 执行概要他的论文试图根据公开信息（“开源”）确定中国谁正在采取哪些步骤来实现通用人工智能，如公开的表达所表明的那样。和其他共同措施。虽然通常被认为是“人工通用智能”或AGI，但本文拒绝了这个模棱两可的术语，以及它通常与人类水平的机器智能的联系，转而采用一种方法，该方法可以识别各种途径，以实现在新情况下自主运作的广泛能力的人工智能。因此，本文研究了原则上可以使用的通用人工智能的途径，作为描述中国为实现这种能力而正在进行的工作的前奏。中国研究的三大领域被确定为潜在的相关领域：机器学习、类脑人工智能研究和脑机接口（BCI）。有关构成这一生态系统的人员、机构和研究的数据是下游研究的基础，*也是以中国为重点的指示和警告观察板的起点。本文叙述了用于构建数据库和原型观察板的方法，使分析师能够捕获并可能预测中国人工智能相关事件。支持该试点的数据的条件是接受本地或与外部参与者一起进行的关于中国人工智能、人工智能的政治用途和其他新兴中国技术的后续研究的积累。该项目旨在成为或激发国外通用技术监测平台。* Hannas和Chang等人，“中国的认知人工智能研究”，CSET（准备中）。第三安全中心和新兴技术T 介绍2017年，中国国务院发布了全面的“新一代人工智能发展规划”，旨在到2030年使中国成为世界领先的人工智能强国。1而有抱负的,中国的在随后的五年中，共产党、国家政府、大学、研究实验室和技术公司都表现出坚定不移地致力于促进人工智能的发展，不仅在中国拥有良好记录的应用中，2而且——按照计划——在历史上不是中国强项的前沿研究中。3该计划有一个补充目标，即实现“先行优势”（先发优势).在人工智能的案例中，这意味着领先者——中国——和能力较弱的国家之间的差距不断扩大，因为人工智能（项目——ed）能够生成更好的自身版本。如果中国在这两个目标中的任何一个上取得成功，对美国和其他自由民主国家竞争能力的影响可能会受到严峻考验。由于人工智能作为技术推动者的角色，风险从人工智能延伸到一般技术。因此，本文探讨了中国在2017年计划中提到的三个主要子领域取得进展的努力：传统（计算）人工智能研究，“连接组学”或类脑人工智能研究，以及脑计算机接口。本报告确定了构成这一生态系统的机构和个人，并描述了大约 30 个组织所做的工作，以传达人工智能计划的实际范围和方向。中国认为这项研究正在向通用人工智能发展，即可以在新环境中以更大的自主性和有效性运行的软件，这可能类似于人类智能，也可能不像人类智能。安全中心和新兴技术v我 鉴于美国和欧洲的观察家几乎缺乏关于这一主题的数据驱动研究——特别是在中文来源中——以及它对竞争国家的潜在影响，本文还介绍了一个开源试点项目，并附有现存的例子，以监测中国从狭义人工智能到广泛能力的进展，以这项研究的数据为基础。报告最后提出了将中国的人工智能增长作为关注的目标和起点。美国目前缺乏的科学和技术（S&T）监控观察板。对中国技术发展的研究不可避免地会产生关于国有与私人管理、外国灵感来源以及对中国军事力量的影响的问题。4 作者在读者参考的其他研究中讨论了这些主题。简短的回答是：国家对中国人工智能的参与无处不在;5几乎所有中国技术项目都受益于外国技术诀窍;6中国的规划者也意识到了人工智能的作战作用。7对具有广泛应用的下一代人工智能的研究 - 与今天的人工智能主要局限于利基领域不同 - 导致猜测结果将是所谓的“人工通用智能”（AGI），或者一些说法是“人工”。超级智能“（ASI）——即在许多或大多数方面与人类的智能行为相匹配或超过人类智能行为的人工智能。本文并没有否认这种可能性，也没有将其视为特别可能，但提出人工智能的进步可能是不可预测或无法识别的，其形式与外行人认为的基于人类经验的“智能”不同。虽然不一定是人类水平机器智能的传说中的圣杯，但中国先进人工智能研究的结果将同样具有预兆。最后，描述先进的人工智能涉及剖析人工智能专业人士非常感兴趣的术语，并关系到如何看待这一领域的发展。这些部分（1.A和B）可以由非专业人士跳过，但代价是放弃了有用的上下文。作者感谢Dewey Murdick博士帮助构建研究框架，Helen Toner担任“红队员”，Igor Mikolic-Torriera博士的耐心和鼓励，Catherine Aiken博士的详细审查，Lynne Weil的营销和生产监督，以及Tessa Baker的行政支持。还要感谢Michael Miklaucic和John Chen的评论和实质性批评，Maura McCarthy的编辑评论，Alex Friedland的文案编辑支持，以及Ali Bours的布局和设计。六世安全中心和新兴技术 1一般人工智能:定义和途径使用“AI”是有问题的。在某些方面，它是一个搜索内容的名称。本节探讨了中国与美国和欧洲对人工智能本质的看法，作为投射其焦点的焦点未来的轨迹。A.整流的名字:“美国国际集团”或“一般人工智能”8人工智能已经渗透到全球社会，成为家喻户晓的词。尽管它取得了成功，但人工智能缺乏一个共同的定义来捕捉其制造商试图创造的东西。9在某种程度上，重点是狭窄的任务，定义可能是无关紧要的——人工智能执行其代码，尽管通过不完全透明的过程，并获得特定的结果。然而，随着科学家寻求更有能力的人工智能，在没有具体指导的情况下在广泛的领域发挥作用，需要更好地理解目标 - 智能。定义“智能”甚至在计算机出现之前就已经存在问题。10人类不表现出一种智力，而是在一系列任务中表现出认知技能，例如视觉空间处理、推理、语言使用和工作记忆——更不用说社交和情商了。发现不同心智能力的测量往往与任务相关11 引导人们将人类认知概念化为单一的“一般智力因素”，这个术语在狭义上是有效的，但具有误导性，12这导致滥用。13此外，测量智力并不等同于理解智力。虽然几个世纪以来有可能在单一生物领域，计算的出现需要扩展安全与新兴技术中心1D 定义以涵盖我们电子代理的问题解决行为。Inevita-bly，人类作为智力的所在地，“拥有”智力的感觉，加上心理学研究的传统，导致了对“智力”是什么的过度以人类为中心的观点。这种拟人化的前景掩盖了对人工智能的“智能”部分进行基础调查的必要性，损害了该学科和评估替代人工智能程序的能力——其发现是任何全球监测制度的重要组成部分。14这种抱怨在专家中很普遍，更不用说负责告知和执行国家政策的分析家了，他们努力争取对话语术语的共同定义。15三位领先的通用人工智能专家解释了他们的利基市场如何受到术语歧义的影响：16“关于情报本质的争论已经持续了几十年，但仍然没有达成共识的迹象。17“缺乏一个明确的、普遍接受的定义并不是'AGI'独有的。例如，“AI”在人工智能研究界也有许多不同的含义，对定义没有明确的共识。'智能'也是一个相当模糊的概念。18“长期以来，人工智能领域的许多不同党派和派系，坚持不止一种意识形态，一直试图在不了解智力的情况下构建人工智能。他们的思维习惯已经在该领域根深蒂固，甚至传播给部分公众。19如果“智能”和“人工智能”缺乏中立（包容）的定义，那么“通用人工智能”特别容易与其人类祖先相关联。AGI通常被定义为“智能代理理解或学习人类可以完成的任何智力任务的假设能力”，或“工程系统显示与人类相同的粗略通用智能的能力”，或“软件中广义人类认知能力的表示”。2测试AGI的拟议措施，如图灵测试，咖啡测试和机器人大学生测试，同样通过与人类模型进行比较来设定标准。21如果将人类认知用作软件开发人员寻求的假设的一般问题解决能力的现存示例，这本身是合理的。用人类的术语来概括这个目标的困难在于，这个概念可能并且正在被其他类似人类的特征（如情感、意识和道德）所混淆。22导致AI的开发人员超越了需要的东西，忽视了2安全中心和新兴技术 或者，可能忽视像中国这样不太坚持拟人化范式的国家的研究。23将AGI等同于人类认知扭曲了前者，使后者变得贫穷。24 但是，这两者在通俗的理解中甚至在专业文献中都紧密地联系在一起，以至于在作者看来，AGI一词已经失去了其操作价值。25更复杂的是，AGI的一些方法坚持认为人工智能是“体现”人类的（具有反馈机制并反映自己的输出），以实现一般解决问题的能力。26如果定义在一种语言中很重要，那么它们在语言之间也很重要。“通用人工智能”是公认的中文翻译通（tōngyòng réngōng zhìnéng），也译为“一般（通用)人工智能(人工智能)."虽然这两个英文术语在中国都使用，“通用人工智能”是首选，正如其在机构命名中的使用所证明的那样——例如，北京通用人工智能研究院 （北京通用人工智能研究院）27——当然，还有中文词序本身。这就是难题的解决方案。通过将形容词“一般”放在“人工智能”之前，中国可能不假思索地一次性解决了先前确定的两个问题。它消除了“一般智能”在其原始语境中和人类智能本身作为人工模拟的必要目标的问题。剩下的是一种广义的人工智能形式，很难单独实现，但与中国以外的“AGI”的混合属性没有必然的联系。使用术语“通用人工智能“中国数以百计的文件检查支持将其等同于对能力更广泛的人工智能的一般搜索，人工智能可能（在某种程度上）与人类水平的智能相当，或者能力较差，或在某些或所有领域超过它。虽然形容词可以转置（”人工通用智能“），它远不那么常见——可能是受西方”AGI“启发的新词，本文的作者希望它不会扎根。用途本研究中的术语“AGI”——在无法避免的情况下——是这里描述的意义，即“通用人工智能”没有拟人化和夸张。将职权范围改为“通用人工智能”，符合人工智能从应用范围窄到广的软件发展的趋势。一个例子是OpenAI的大型语言模型GPT-3，28用于客户服务、治疗、虚假信息和创意文学。因此，本文使用“通用AI”作为“高级AI”的同义词。这一表述承认，受大脑启发的人工智能研究和人工增强的人类智能是人工智能未来的一部分，但不一定是它的全部。安全中心和新兴技术3 B.五个理论路径一般人工智能29在陈述了这项研究的内容之后，需要对“智力”进行工作定义。以下是文献中的三个定义（括号中是本报告作者的评论）：“智能衡量智能体在各种环境中实现目标的能力。30狭窄的人工智能是一个矛盾的结合体。“智能是一