两种智能范式
逻辑启发范式
- 智能的本质在于推理，通过符号规则对符号表达式进行操作以实现推理。
- 学习可以暂缓，首先要理解知识如何以符号表达的形式进行表示。
接下来的三十年
- 十年后：Yoshua Bengio 展示了符号推理可以建模真实的自然语言。
- 二十年后：计算语言学家开始接受“特征向量（嵌入）”。
- 三十年后：谷歌发明 Transformer，OpenAI 展示了大模型的强大能力。
大语言模型
- 大语言模型将词转化为能与其他词“配合得很好”的特征向量。
- 大语言模型确实“理解”它们所说的话。
乐高类比
- 词语像是高维的乐高积木，可以用来建构几乎任何事物。
- 理解一个句子更像是折叠一个蛋白质分子，而不是将其翻译成一种明确无歧义的逻辑表达式。
目前小结
- 理解一个句子，就是为句中的词分配彼此兼容的特征向量。
- 大语言模型理解语言的方式与人类非常相似，但与传统计算机软件截然不同。
- 数字化的大语言模型在知识共享方面远优于类比信号驱动的大脑。
数字计算
- 当代计算机的基本特性是可以在不同的物理硬件上运行相同的程序（或相同的神经网络）。
- 程序中的知识（或神经网络的权重）是永生的，不依赖于任何特定的硬件。
- 为了实现这种“永生性”，晶体管在高功率下运行，表现出可靠的二进制行为。
- 我们无法利用硬件中丰富的类比特性，因为这些特性不够稳定可靠。
有限生命之间的知识转移
- 将知识从“教师”蒸馏到“学生”身上是最佳方法。
- 教师向学生展示各种输入对应的正确响应，学生通过调整自身的权重，使其更有可能给出与教师相同的响应。
- 一句普通的话大约包含一百比特的信息量，人类在将自己学到的知识传达给他人方面的效率非常低。
- 如果独立智能体完全共享同一组权重，并以完全相同的方式使用这些权重，它们就能通过交换权重或梯度，将学到的知识彼此传递。
- 这种共享一次即可实现数十亿乃至数万亿比特的带宽，但要求所有智能体的运作方式必须完全一致，因此它们必须是数字化的。
目前小结
- 数字计算虽然耗能巨大，但多个智能体要拥有相同的模型就能轻松交换各自学到的知识。
- 生物计算所需能量要少得多，但在智能体之间共享知识方面差得多。
- 如果能源廉价，数字计算整体上更占优势。
对人类的未来意味着什么？
- 人工智能在被允许创建自己的子目标时，能更有效地完成任务。
- 两个显而易见的子目标是生存和获取更多权力，因为这有助于人工智能实现其他目标。
- 一个超级智能会发现，通过操纵使用它的人类来获取更多权力是轻而易举的。
- 我们当前的情况就像一个养了只非常可爱的小虎崽的人，为了生存，只有两个选择：摆脱这只小虎崽，或找到一种方法来确保它永远不想杀死你。
未来之路
- 各国不会在防御人工智能的危险用途上进行合作，例如网络攻击、致命自主武器、用于操纵公众意见的虚假视频。
- 培养出不会想要从人类手中夺取控制权的向善的人工智能所需的技术，可能与使人工智能更智能所需的技术是相对独立的。
- 各国可以设立资金充足的人工智能安全研究所与国内研究网络，专注于研究如何让人工智能不想夺取控制权。
- 各国可能就不需要透露他们最智能的人工智能是如何运作的。
