自稳态觉醒：复杂科学与东方智慧下的AI奇点与未来

张江 复杂科学和东方智慧视角下的AI奇点与未来 北京师范大学系统科学学院教授集智俱乐部创始人集智科学研究中心创始人 AI Singularity and Planetary Intelligence 自稳态觉醒——复杂科学和东方智慧视角下的AI奇点与未来 AI Singularity and Planetary Intelligence 张江 2017 区块链VS.人工智能 用有竞争力的方式重塑行业 解数学题 写Latex代码 写诗 写Python代码创作音乐解释笑话∞ 奇点临近？ 进化大事件 5 , 0 0 0 , 0 0 0 , 0 0 0地球诞生5, 0 0 0 , 0 0 0 , 0 05, 0 0 0 , 0 0 0 , 05, 0 0 0 , 0 0 05, 0 0 0 , 0 05, 0 0 0 , 05, 0 0 05, 0 05, 05脊椎动物哺乳动物灵长类动物现代人大冰河时代人类历史科学萌芽人工智能智能革命 人类像小孩子一样危险 https://www.technologyreview.com/2023/05/02/1072528/geoffrey-hinton-google-why-scared-ai 2020 全球高温不退 极端天气间接导致国家冲突 高盛报告：人工智能对经济增长的影响 Goldman Sachs: The potentially large effects of artificial intelligence on economic growth(Briggs/Kodnani),26 March 2023 人类百年未遇之大变局 新的问题需要跨学科思考新的问题需要跨尺度思维新的问题看似无关，实则相互交织在一起新的问题需要新的理论 什么是复杂科学？ 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 确定性的终结 IT→BIT 什么是复杂科学？ 采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科。 什么是复杂科学？ 什么是复杂科学？ 采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科。 复杂系统无处不在 遥远的相似性 涌现现象与规律 整体大于部分之和 ---亚里士多德 涌现现象与规律 整体大于部分之和 ---亚里士多德 有生于无 ---老子 什么是复杂（性）科学？ •采用跨学科的手段，研究各类复杂系统背后普适规律的一门新兴学科 •复杂科学尝试提炼： –普适的概念–普适的规律–普适的方法 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 奇点？ 引力奇点 奇点-1958 我们的对话集中讨论了科技的不断加速进步和对人类生活方式的改变，这给人感觉像是在接近人类历史中的某种本质奇点（singularity），超越了这个奇点，我们所熟知的人类的社会、艺术和生活模式，将不复存在。 Ulam, S., Tribute to John von Neumann, Bulletin of the American MathematicalSociety, vol 64, nr 3, part 2, May, 1958,-49 John vonNeumann 智能爆炸-1965 让我们将超级智能机器定义为一种能够远远超过任何人的所有智力活动的机器。 如果说设计机器是这些智力活动的一种，那么超级智能机器肯定能够设计出更加优良的机器。 毫无疑问，随后必将出现一场“智能爆炸”，人类的智能会被远远抛在后面。 因此，第一台超级智能机器是人类需要完成的最后一项发明，前提是这台机器足够听话，会告诉我们如何控制它。 I.J.Good 技术奇点-1982 一旦达到奇点，库兹韦尔表示，机器智能将无比强大，超过所有人类智能的总和。 奇点也是机器智能和人类智能融合的时刻。 他预测了这个日期：“我设定的奇点日期是2045年，这将是人类能力发生深远且颠覆性转变的时刻。” Vernor Vinge1982年在人工智能协会年会上首次提出技术奇点概念 Raymond Kurzweil 5 , 0 0 0 , 0 0 0 , 0 0 0地球诞生5,0 0 0,0 0 0,0 05,0 0 0,0 0 0,05,0 0 0,0 0 05,0 0 0,0 05,0 0 0,05,0 0 05,0 05,05脊椎动物哺乳动物灵长类动物现代人大冰河时代人类历史科学萌芽人工智能智能革命 加速回报定律 信息压缩–数据组 到2014年的时候地球全部的数字信息总量已经达到了5×1021字节，而全世界人类基因组中储存的信息量仅为1019字节 在110年内，人类的数字设备所存储的信息总量就将超过地球上所有DNA中包含的信息总量 AI三部曲 奇点到来的时间—2050 人工智能专家对高水平智能AI到来时间的估计（可能概率分别为10%、50%、90%） •550个人工智能学术界顶尖的学者 •到达2040-2050之间，人们实现高水平的人工智能的可能性将大于50%，而到达2075年，这一可能性将提高到90% Muller, V. C., Bostrom, N. (2016). Future progress inartificial intel-ligence: A survey of expert opinion. InFundamental issues of artificial intelligence, 555–572.Springer, Cham. 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 技术奇点是一个根据技术发展史总结出的观点，认为未来将要发生一件不可避免的事件：技术发展将会在很短的时间内发生极大的接近于无限的进步。 Kuzweil,2005 经济奇点是一个关键的时间点，当我们超越这个时间点后经济将保持持续增长，并且增长速度会持续增加。 Norhaus, 2015 技术奇点vs.经济奇点 经济奇点 技术奇点 供给侧+需求侧 供给侧 为AI时代的人类提供普遍基本收入让全球人能共享AI带来的丰厚利润 让人们有更多时间和精力投入到自己真正热爱的事情中 鲍默尔(Baumol)效应 鲍默尔效应由鲍默尔于1967年提出是指一个经济中，各部分劳动生产率的增长率是不一致的。当存在这种差异化时，生产率增长较快的“进步部门”的工资上涨会同时带动那些生产率增长较慢的“停滞部门”的工资上升，而这种效应会导致“停滞部门”吸引更多的劳动力、形成更大的产出。久而久之，“停滞部门”在这个经济中所占的比例会越来越高，而整个经济的生产率增长会因此而降低。 William Jack Baumol1922-2017 美国经济学家普林斯顿大学经济学教授纽约大学经济学教授 加剧的不平等性 引力奇点 经济奇点的三个约束 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 AI的影响 到2030年，可持续发展的169目标：贫困、饥荒、不平等… 绿色AI 兰道尔原理 擦除一比特信息的最小能量消耗（热量的耗散）： 数据中心计量2021耗电量 AI的影响 AI的碳足迹 以二氧化碳为单位的碳足迹衡量基准 训练一个大语言模型相当于约30万公斤的二氧化碳排放。 这大致相当于纽约和北京之间的125趟往返航班的排放量。 AI的碳足迹 计算能力 https://openai.com/research/ai-and-compute 大多数大模型的计算是耗能而“无用”的 能量金字塔 能量金字塔 Odum: Self-Organization,Transformity,and Information, Science, 1988 能量金字塔 Liu, Gengyuan, et al. "Energy constrains to increasing complexity in the biosphere." The Innovation 2.4 (2021) 能源使用 Judson, O. The energy expansions of evolution. Nat Ecol Evol1, 0138 (2017). 气候系统中的奇点 遥相关与气候临界点 亚马逊雨林与遥远的青藏高原和西南极冰盖之间存在显著的遥相关，也就是说，亚马逊雨林的过度砍伐，可能影响遥远的喜马拉雅山的冰雪覆盖。青藏高原可能是一个全新的临界要素，并接近临界点。 气候临界要素之间的相互作用和遥相关可能导致临界级联反应。 Liu, T., Chen, D., Yang, L. et al. Teleconnections among tipping elements in the Earth system. Nat. Clim. Chang.13, 67–74 全球15个＂气候临界点＂已被激活9个 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点l技术奇点l经济奇点l生态奇点l奇点融合 l东方智慧之阴阳 l阴阳与平衡，混沌边缘的复杂l太极生阴阳，从熵增定律到观察者l阴阳返无极，自稳态觉醒 l解决之道之自稳态觉醒l人类文明与自稳态觉醒l人工智能与理性人假说l个体与组织的回归本心 Geoffrey West与《规模》 奇点融合 •一半以上的人口居住在城市•80%以上的财富由城市创造•几乎所有科技创新都诞生于城市 城市的规模法则 Luís M. A. Bettencourt et al., Growth, innovation, scaling, and the pace of life in cities, PNAS,2007 城市的辉煌与罪恶 GDP与CO2排放 一切都在加速 超线性规模法则导致超指数增长 城市的增长动力学 城市的增长 城市的增长动力学 ∆��∝�(0)人们不仅是在跑步机上奔跑，而且还会不停地跳到更快速的跑步机上奔跑！ 城市的增长动力学 城市的增长动力学 本质原因是什么？ 让我们再次反思一下疫情吧 让我们再次反思一下疫情吧 走向何方？ 理想国 邻国相望，鸡犬之声相闻，民至老死不相往来。 ——老子《道德经》80章 大纲 l为什么是复杂科学l奇幻五年背后的复杂l复杂科学要直面的问题l复杂科学的关键概念 l复杂科学之奇点 l技术奇点l经济奇点l生态奇点l