人机共生时代的科技发展观

人 机 共 生 时 代 的 科 技 发 展 观 序言PREFACE 技术创新对生活的影响是巨大的，但这并不是自动发生的。它取决于我们发明的技术类型以及我们如何使用它们。“” ——2024 年诺贝尔经济学奖获得者、麻省理工学院教授达伦·阿西莫格鲁（Daron Acemoglu） 2022 年 11 月 30 日，人工智能公司 OpenAI 发布聊天机器人模型 ChatGPT。它以前所未有的生成能力、广泛的应用场景以及像人类般互动的自然语言交互模式，让大众第一次真切感受到人工智能（Artificial Intelligence，以下简称“AI”）的魅力。由此开启的新一轮 AI 大模型技术浪潮，正深刻改变着现在乃至未来人类社会的生产生活方式。 事实上，自 1956 年达特茅斯会议首次提出“人工智能”这一概念以来，人工智能技术至今已经历经大约 70 年的发展历程。它曾带来过技术变革的期望，也曾经历过产业发展的低谷。然而，此次浪潮所引发的关注度前所未有——公众情绪由最初的旁观、震惊，逐渐演变为一种夹杂着期盼与焦虑的复杂情绪，各种疑虑也不断产生。比如，AI 是否会让人变得更有创造力？AI 能否真正给人们的生活带来便捷并提升品质？AI 会威胁甚至取代自己的工作吗？如何确保AI 技术不被滥用、不会侵犯个人隐私和安全……特别是，一些引发大众关注的热点事件将当前 AI 发展中缺乏对人关注和保护的不足集中暴露出来。 透过 AI 纷繁复杂的发展背后，人们希望回归两个基本的起点：一是 AI 作为一种技术的工具属性这一本质；二是发展AI 的初衷和目标——人本，或者说以人为中心。 一方面，人类发明任何工具，出发点都是将人类从繁杂枯燥的生产活动中解放出来，从而帮助其更好地生活。作为一个技术范畴的统称，AI 开始于 20 世纪 50 年代初计算机、物理、数学、心理学、神经科学等不同领域的学者开始研究如何让机器像人类一样思考和行动。在接下来的几十年里，人工智能领域经历了多次的高潮和低谷，但其核心的工具本质，始终未曾改变。 另一方面，AI 系统将人作为学习和模仿的对象，通过复杂的算法和大量数据训练，学习人类的语言、行为模式、决策过程乃至创造性的表达。对于 AI 而言，人始终是学习进化的基点和目标。 一个 AI 系统本质上是一个从输入信息到生成行为的转换系统。人类的任务是设计这个转换机制，然而现实的发展可能会偏离起点和初衷。正如历史学家尤瓦尔·赫拉利所做的论断，AI 是“历史上第一个可以自己做决定的技术，也是历史上第一个可以自己创造想法的技术”1。对此，人们有必要保持一定的审慎态度，特别是在底层价值认知方面进行充分的反思。从技术这一大类的属性来看，人类可以赋予技术以灵魂，但是反过来，人类这一物种的生物和社会属性可能在很大程度上被技术所左右；从 AI 本身的技术特性来看，不同于以往的技术或者技术变革，AI 有望在人类体验的所有领域引发变革并重塑价值观，改变人类理解现实的方式以及在其中扮演的角色。如何确保在这一进程中 AI始终以人为目的，是一个严峻的考验。 人们需要思考，在 AI 发展如火如荼的大潮下，人们应该以什么样的价值观来推进 AI 技术和产业的变革及治理，以什么样的关系来处理 AI 与人类的关系，如何将价值观置于技术之上，进而拥抱 AI。正如“AI 教母”、华裔科学家李飞飞在其自传《我看见的世界》中所言，“如果人工智能要帮助人们，我们的思考就必须从人们本身开始”。人工智能最伟大的胜利不仅是科学的，还是人文的。人的尊严、人的快乐、人的安全、人的幸福，是人工智能技术发展的北极星——人工智能，以人为本。 目录CONTENTS 3.2.3 制造业案例 4：鲲云科技 AI 系统守护矿工生命安全案例 5：设序科技让船舶设计更简单有序3.2.4 交通出行案例 6：“萝卜快跑”们上路，自动驾驶引热议3.2.5 医疗健康案例 7：联想用 AI 帮助渐冻人“开口”说话案例 8：百川智能用 AI“造医生”3.2.6 环境与生态保护案例 9：北京亦庄“AI 之城”的环境管理案例 10：联想集团“AI+ 动物保护模式”31333538 1.1 人工智能的四轮发展浪潮1.2 新一轮 AI 的特质1.3 新一轮 AI 下的人机关系1.4 走向人机共生新时代1.5 构建新型“三线”人机关系0608111416 第二章人本智能—— 一种新的科技发展观17 2.1 从机器智能到人本智能——科技人文主义的兴起2.2 人本智能概念的提出2.3 人本智能的内涵和原则192121 第四章人本智能发展观：倡议与治理41 4.1 全球人工智能治理的努力——智能向善与负责任的 AI4.2 走向人工智能的未来——人本智能倡议4244 第三章人本智能的应用实践23 3.1 人本智能的产业实践3.2 人本智能的行业应用3.2.1 传媒与文艺创作案例 1：人民日报“创作大脑 AI+”平台案例 2：联想 AI PC 助力纪录片《西野》拍摄制作3.2.2 教育行业案例 3：清华学子的 AI 搭子——“清小搭”24262629 结语——关于 AI 及人的未来 新型人机关系，新 AI 价值观 人工智能的四轮发展浪潮 人工智能正以惊人的速度重塑着世界。在近 70 年的发展历程中，人工智能经历过黄金时代也曾有过低谷。不过科技的魅力在于，历经起起伏伏之后，现在的人工智能已开始深深影响人类社会。总体来看，人工智能技术的发展历经了七个阶段共四轮发展浪潮。 1. 起步发展期（1943-1960 年） 人工智能从概念逐渐演变为学科，并涌现出了两大学派：符号主义和联结主义。人工智能研究者提出了一些基本的概念和方法，如神经网络、图灵测试、符号推理、游戏 AI 等，并在一些简单的任务处理上取得了初步成功，如机器定理证明、跳棋程序、人机对话等。 其中最具标志性的事件是 1956 年夏天，美国达特茅斯学院主办了历史上第一次人工智能研讨会。会议虽然未能达成普遍的共识，却为所讨论的内容起了一个名字：人工智能。从此“人工智能”开始作为一门独立学科出现，1956 年也因此成为人工智能元年。 2. 黄金时代（1960-1974 年） 人工智能的黄金年代，也是符号主义的鼎盛时期。这一时期科学家们富有理想、信心，认为机器能够实现与人类同等水平的智能，他们试图用逻辑和符号来模拟人类思维过程，并已经在自然语言理解、专家系统等一些复杂任务上取得了突破性进展。 在这一时期，一款名为 ELIZA 的聊天机器人程序问世，引起了人们广泛关注。同时期，美国斯坦福大学费根鲍姆教授开发了一款专家系统 DENDRAL，能够帮助化学家确定化合物结构和性质，为最早的专家系统开辟了道路——这种经过训练的智能化计算机可以像专家一样“思考”，也酝酿了第二次人工智能浪潮。 3. 第一次寒冬（1974-1980 年） 20 世纪 70 年代初，人工智能发展遭遇瓶颈。首要困难就是计算能力和存储空间不足，导致当时的计算机无法处理复杂的任务，如图像识别、自然语言理解和机器人控制等。其次，还面临着数据量和知识表示方面的挑战。 鉴于人工智能未能达到预期的目标和效果，政府和社会各界对其产生了质疑和批评，政府更是削减了对人工智能研究的资金支持，致使许多项目被迫中止或缩小规模。 但在此期间，也出现了很多发展亮点和技术进步，如神经网络技术的出现，成为现代人工智能的重要组成部分。 4. 再次繁荣（1980-1987 年） 科学家借助逻辑编程语言和专家系统技术，推动人工智能在一些商业领域获得成功，进而重新获得政府和企业的支持。同时，联结主义的代表性技术——人工神经网络重新受到关注。这是人工智能的复苏阶段，也是分化和竞争的阶段。 5. 第二次寒冬（1987-1993 年） 这段时期，人工智能再次遭遇挫折和困境，标志性事件是日本第五代计算机系统研制计划的失败，自此专家系统不再独领风骚。与此同时，神经网络研究遭遇新的瓶颈，针对人工智能研究的资助再次缩减。 在这个阶段，人工智能研究者意识到，要解决更为复杂和普遍的问题，就需要运用更复杂、规模更大的模型，以及更多的计算资源和更丰富的数据等。同时，人工智能也面临着一些哲学和伦理的问题，如机器是否具有意识、机器是否有道德以及是否会对人类构成威胁等。 6. 深化发展（1993-2015 年） AI 研究者开始采用更加实用和渐进的方法，将 AI 技术应用于各个领域，涌现出许多创新的理论、方法、技术和应用。如 IBM 的深蓝超级计算机在国际象棋比赛中战胜了世界冠军加里·卡斯帕罗夫；智能系统沃森参加智力问答节目，打败了两位人类冠军，展示了人工智能在复杂领域的强大能力。 7. 爆发发展（2016 年至今） 随着技术的突破、成本的下降和应用的普及，AI 开始从实验室走进大众的生活。2016 年至今（2024 年）可视为人工智能的爆发阶段，也是创新和应用的关键阶段。 特别是 2016 年，可被称为人工智能的元年，在这一年谷歌 DeepMind 研发的 AlphaGo 在围棋人机大战中击败人类棋手李世石，成为人工智能发展史上的一个重要里程碑——在一片惊呼声中 AI 迈上一个新台阶，各界对 AI 的热情和投入被充分激发。 同时，互联网的飞速发展推动人类进入大数据时代，数据、算法、算力三要素齐头并进，以深度神经网络为主的深度学习技术开始兴起并持续取得突破。人工智能的应用从图像分类逐步拓展至语音识别、知识问答、人机对弈、无人驾驶等诸多领域。直至 2022 年，ChatGPT 横空出世，使得公众对人工智能的理解被彻底刷新，并极大加速了 AI 在各行各业、各类场景中的应用，同时也引发了关于 AI 技术的社会影响和伦理问题的深入探讨。 一方面，各国政府以及产业界正在积极投资和布局 AI 领域，希望能在这场科技革命中占据一席之地，并取得产业化的先机；另一方面，很多企业家和学者对 AI 的迅速发展发出警示，提醒其对社会存在的风险，呼吁全球各国、政府部门、行业组织、社会公众等多元主体共同参与人工智能治理。 新一轮AI的特质 回顾 AI 的发展历程，人工智能是一个被不断定义且持续扩展的领域，这是因为人工智能具有多维度的属性，而且始终处于动态发展状态。 1956 年的达特茅斯人工智能会议首次提出人工智能概念，确定了 AI 的目标是“实现能够像人类一样利用知识去解决问题的机器”。在这一定义范畴中，人们倾向于将 AI 理解为能够帮助人类的一种工具，是人类智慧的补充。随后，在近 70 年的发展中，人们对 AI 的工具属性不断进行扩展，诸如 AI 能自我演进和扩展，AI 具有经济和社会的基础结构属性，AI 具有超主权属性等等。 这些不断叠加且动态变化的属性在最新一轮 AI 热潮中得到集中展示。自 2022 年末起，OpenAI 公司的 GPT 系列大模型因为可以广泛应用于自然语言生成、语音识别和智能服务等领域，而成为 AI 历史上的重大分水岭。GPT 的重要优势在于采用了 Transformer 架构，即一种基于注意力机制（Attention Mechanism）的神经网络结构，能够支持模型高质量地处理长文本，把握文本中的长期依赖关系。更为重要的是，GPT 的预训练基于自监督学习方式，通 过在大规模文本语料库中学习语言的统计规律和模式，从而理解和生成自然语言文本。可以说，这是一个不断建设、具有学习能力的神经网络的过程，并引领了生成式 AI 的新范式。 值得一提的是，新一轮 AI 真正的特殊之处在于，人工智能已成为推动自身发展的动力——从简单的弱智能走向更加复杂的通用人工智能（Artificial General Intelligence，简称 AGI），即具备与人类同等智慧甚至超越人类的人工智能，能够表现出正常人类所具有的所有智能行为。 具体来说，生成式 AI 典型体现在以下几个方面。 1. 强大的生成能力：AI 的生成能力是其最引人注目的特征之一。通过学习大量的数据，AI 可以自主创造出新的内容，包括图像、