人工智能之父JürgenSchmidhuber20240903

人工智能算法的局限和突破

• 深度学习的局限性：Jürgen Schmidhuber认为深度学习无法解决计算机科学中的许多问题，如基础理论改进，而深度搜索树更能确保新定理的正确性。尽管深度学习可以用于寻找捷径或识别模式，但许多问题可以通过非深度学习的方法更快更高效地解决，例如符号操作。
• 神经网络与图灵机：Schmidhuber指出循环网络是通用计算机，原则上可以计算任何在笔记本电脑上可以计算的东西，但循环网络作为通用计算机的证明并非那么简单。理论上，Python解释器可以执行无限多的程序，而神经网络只能识别它们训练过的有限事物，这是两者的根本区别。
• 多重实现性：Schmidhuber认同多重实现性的奇妙之处在于其表示和概括能力，可以通过紧凑的符号表示处理可能在无限多种情境下工作的事物。例如，奇偶校验问题是一个简单的问题，循环神经网络可以解决，而Transformer无法解决。
• 非梯度下降学习方法：Schmidhuber强调许多问题不适合梯度下降学习，离散程序搜索可能更合适。例如，随机搜索权重可以比梯度下降更有效地解决某些问题。
• 元学习：Schmidhuber认为元学习是重要的，可以混合多种模式，如随机梯度上升、符号模式以及复杂的元推理模式。对于目前进行arc挑战的人，他们在进行离散程序搜索，有的尝试在顶层使用元模式的神经搜索或完全不同的方法。

人工智能与AGI发展讨论

• ChatGPT与AGI：Schmidhuber认为ChatGPT的诞生并没有带来真正的AGI，因为所有因为ChatGPT和其他大型语言模型而开始担心AGI的人，主要是因为他们不太了解人工智能，不了解背后的神经网络的局限性。
• AGI的实现：Schmidhuber认为AGI是可能的，它将会到来，而且他们不是那么遥远的未来，但它将只把大语言模型作为一个子模块，因为通用人工智能的核心目标是完全不同的东西，它更接近强化学习。
• 强化学习：Schmidhuber强调在现实世界中，你需要有一些具体化的人工智能，比如机器人，在现实世界中运行。在现实世界中，你可以做到在电子游戏中做到的事情，但每次你被击中后，你又会复活。现在，在现实世界中，你有一台机器人，你做了三次简单试验后，一个手指的肌腱就断了。你必须应对现实世界中类似这样的令人难以置信的挫折，也必须做好现实世界的执行规划来减少问题的出现。

世界模型和人工智能的创新

• 抽象原则：Schmidhuber认为生成对抗网络非常相似于抽象原则，在这个游戏中你试图增加算法信息或信息转换率，正如他所说，你从微观动作空间开始，或者转向动作抽象空间，在那里你实际上是在学习动作空间中的模式。
• 心智社会：Schmidhuber提出了“心智社会”的概念，即由多个基础模型组成，有些模型非常擅长计算机视觉，能从图像中生成标题，另一些则擅长用自然语言回答问题。现在你有一个由这些家伙组成的社会，你给他们一个他们无法单独解决的问题，要求他们共同解决，那么他们会怎么做？他们会进行一些我们称之为“思维风暴”的活动。

LSTM和Transformer的演变及未来

• Transformer：Schmidhuber于1991年发表了线性Transformer，这种线性Transformer实际上是一个神经网络，内部包含许多非线性操作，并且计算需求很低。线性Transformer可以基于当前聊天内容来预测下一个词。
• LSTM：Schmidhuber的学生Sep Hochreiter在1991年提出了LSTM的早期概念。他通过引入残差连接解决了梯度消失问题，这项技术后来发展成为广泛认可的LSTM，并在1997年成为20世纪被引用最多的人工智能论文之一。
• XLSTMs：Sep Hochreiter和他的团队开发了X LSTMs，它在多个语言处理基准上超越了Transformer，并且具有线性而非四次方的计算复杂度。X LSTMs还引入了矩阵记忆功能，这使得它们能够存储比传统LSTM更多的信息。
• 深度学习模型中的深度问题：理论上，单层网络可以通过增加隐藏单元来实现任何复杂的功能，但这需要大量的参数和数据。深层网络通过较少的权重和参数，可以在训练集上实现良好的性能，并可能在测试集上有更好的泛化能力。
• 策略梯度：策略梯度在LSTM中的应用非常重要，尤其是在需要记忆和决策的环境中，比如视频游戏中。例如，DeepMind使用策略梯度训练的LSTM在星际争霸游戏中战胜了专业玩家。