通用AI通用技术通向何方

1 / 24 通用 AI，通用技术，通向何方 未尽研究 2023.05.07 摘要 ChatGPT 自从 2022 年底发布以来，迅速成为风靡全球的现象级产品，开启了通用人工智能的时代。这个应用背后的技术，是用深度神经网络技术训练出来的自然语言大模型，它可以生成内容，也具备了逻辑和推理能力，与其他模型和应用协同完成任务。大模型还能打通语言、图像、视频、音频，以及更多对物理环境的感知，产生“具身”的智能。大模型也可能进一步改变科学研究的范式。尽管大模型目前也存在着事实不准确、幻觉等缺陷，并且进一步引发了关于智能的本质的争议，但大模型通过学习人类语言并且掌握其基本结构，从中产生了智能，并且对人类的智能提供了一种参照。大模型在互联网和数字技术的基础之上，成为一种通用技术，正在迅速渗透到数字经济的各个领域，在计算机上形成了自动化完成复杂任务的能力，在知识工作的领域能显著提升劳动生产力，并且引领数字经济向人工智能化发展。根据以往的电力和信息等通用技术颠覆旧技术的研究，大模型的迅速应用，可能在短期内冲击就业市场，但随着新技术带来更多行业的生产力的提升，并且创造新的需求，新技术可能创造新的就业和增长。但这一切还取决于采取相应的政策。对于中国来说，发展大模型面临着一些瓶颈，如算力落差、开源的语言数据不够丰富、先进大模型人才短缺，等等。但中国可以通过多元分布式的布局，统筹超算中心克服短期算力瓶颈，通过开源及要素市场建立起语料数据的供应。由于中国在特定领域、行业应用方面拥有丰富的应用场景，大模型技术在中国有广阔前景，服务于中国的数字经济与创新型经济的大计。 2 / 24 目录 摘要 .......................................................................................................................................................................... 1 1 通用 AI ......................................................................................................................................................... 3 1.1 CHATGPT 时刻 ............................................................................................................................................ 3 1.2 大模型的缺陷 ......................................................................................................................................... 4 1.3 大模型的下一步 ..................................................................................................................................... 5 1.4 AI FOR SCIENCE .......................................................................................................................................... 7 2 通用技术...................................................................................................................................................... 8 2.1 电力与 IT ................................................................................................................................................. 8 2.2 人工智能作为通用技术 ....................................................................................................................... 9 2.2.1 市场渗透 .......................................................................................................................................10 2.2.2 成本下降 .......................................................................................................................................10 2.2.3 催生创新 .......................................................................................................................................11 2.3 人工智能的经济分析 ..........................................................................................................................12 2.3.1 鲍莫尔病与索洛悖论 ................................................................................................................12 2.3.2 白领危机与就业逆差 ................................................................................................................13 2.3.3 新的数据要素 ..............................................................................................................................15 3 中国之路....................................................................................................................................................16 3.1 脱钩时代 ................................................................................................................................................16 3.1.1 算力落差 .......................................................................................................................................16 3.1.2 语言数据，非对称的汉语与英语 ..........................................................................................18 3.2 中国大模型，大力出奇迹 .................................................................................................................19 3.2.1 算力多元化和集约化 ................................................................................................................19 3.2.2 大模型与大科学 .........................................................................................................................19 3.2.3 汉语+ ..............................................................................................................................................19 3.2.4 不输在应用 ..................................................................................................................................20 结论与讨论 ..........................................................................................................................................................21 引用及参考文献 .................................................................................................................................................22 3 / 24 1 通用 AI 用人类所有的语言作为用来学习的数据，去复制人类的智能，去发现一种新的智能，这是一项伟大的实验。费曼说过：凡是我不能创造的，我就无法理解。 1.1 ChatGPT 时刻 世界上第一个能像人一样对话的机器人，不可能只是在语言实验室里，而只能是出世不久即在真实的世界里与上亿人对话的 ChatGPT。它的字面意思，就是预训练生成式对话机器人。这个机器人的大脑，就是自然语言大模型。这份报告里自始至终会用自然语言大模型（简称大模型）这个概念。 这个由深度神经网络训练出来的