AI 2027：超级人工智能的未来预测

人工智 AI未来项目 2027 丹尼尔·科科塔伊洛斯科特·亚历山大托马斯·拉森埃利·利夫兰罗密欧·迪恩 最初发表于2025年4月3日onAI-2027.com 由Lightcone基础设施设计 AI2027 我们预测,未来十年超级人工智能的影响将是巨大的,将超过工业革命的影响。OpenAI、谷歌深Mind和Anthropic的首席执行官都预测通用人工智能将在未来5年内到来。萨姆·奥尔特曼表示OpenAI的目标是“真正意义上的超级智能”和“光明未来”。人们很乐意将其斥为仅仅是炒作。这将是一个严重的错误——这不仅仅是炒作。我们自己并没有炒作人工智能的愿望,但我们认为超级智能在本十年末到来的说法是极具说服力的。 如果我们正站在超级智能的边缘，社会远未做好准备。很少有人甚至尝试阐述任何一条发展超级智能的可行路径。我们撰写《AI2027》就是为了填补这一空白，提供了非常需要的具体细节。我们希望看到世界上有更多这样的工作，尤其是来自不同意我们观点的人。我们希望通过这样做，引发一场关于我们的去向以及如何驶向积极未来的广泛讨论。 我们通过反复追问“接下来会发生什么”来构思这个场景。我们从当前时间点开始，撰写第一时期（至2025年年中），然后是下一时期，直到达到结局。我们并非刻意追求某个特定结局。然后我们将其废弃，重新开始，反复多次，直到得到一个我们认为可信的场景。在完成第一个结局——赛跑结局之后，我们写了一个新的分支，因为我们还希望描绘一种更充满希望的场景结局，其起点大致与原有前提相似。 我们不会对一切事情都正确——其中很大一部分是猜测。但在整个项目过程中 ，我们进行了大量的背景研究、专家访谈和趋势外推，以做出我们能做的最明智的猜测。此外，我们团队在预测方面有着优异的记录，尤其是在人工智能方面。主要作者DanielKokotajlo四年前写了一个类似情景的叫做“2026年将是什么样子”的预测，这个预测非常成功地经受住了时间的考验，EliLifland是一位顶尖的竞争性预测者。 在每一章的开头，你会在右侧页边栏找到一个小的图表，旨在让你了解该场景发生时世界的状况。要了解这些数字的含义的更详细解释，以及我们方法论的更多信息，请访问ai-2027.com。 希望您觉得AI2027有帮助。 2025年中：蹒跚的代理 世界首次看到了人工智能代理。 为电脑使用代理的广告强调“个人助手”一词：你可以用“在DoorDash上为我订一个墨西哥卷饼”或“打开我的预算电子表格并汇总本月的开支”这样的任务来提示它们。它们会根据需要与你联系：例如，要求你确认购买。 1 尽管比之前的版本如操作符，它们难以获得广泛使用。 2 与此同时，在公众关注之外，更专业的编码和研究代理机构开始转型他们的职业。 2024年的AI可以遵循特定指令：它们可以将项目符号列表转化为电子邮件，将简单的请求转化为可运行的代码。到了2025年，AI更像是员工。编码AI越来越像自主代理，而不仅仅是助手：通过Slack或Teams接收指令，并自行做出实质性代码更改，有时能节省数小时甚至数天。 3 研究人员花半个小时在网上搜索答案。 理论上（以及在一些精心挑选的例子中），代理程序令人印象深刻，但在实践中不可靠。AI推特上充斥着关于任务以特别滑稽的方式搞砸的故事。更好的代理程序也很昂贵；你付出多少就收获多少，最佳性能每月要花费数百美元。 * 然而，许多公司找到了将AI代理融入其工作流程的方法。 4 1 起初，大多数人不愿在不监督的情况下允许购买。在接下来的几年里，随着人工智能变得越来越可靠并建立信任，自动允许小额购买变得正常化。 2 具体来说，我们预测他们在基本计算机任务 （OSWorld基准测试）中得分65%（与操作员的38%和典型非专家人类70%相比）。 3 例如，我们认为编码代理将朝着功能像德文.我们预测，到2025年年中，代理人的分数将达到85%SWEBench验证的. 4 企业工具，如采摘也向提供越来越自主的AI代理发展。 2025年末：世界最昂贵的AI OpenBrain正在建造人类有史以来最大的数据中心。 † （为了避免针对任何现有公司，我们将描述一个虚构的通用人工智能公司 ，我们将它称为OpenBrain。我们想象其他的公司在OpenBrain之后3-9个月 。） * 例如，OpenAI的专业版计划目前每月费用为200美元，以及代理式编码AI 德文目前每月500美元。虽然尖端系统随着时间的推移而变得更加昂贵，但达到特定能力水平对客户来说的成本却持续暴跌。对于现有能力，这平均每年发生约50倍（每 周期). † 这个集群是一个遍布全国的数据中心园区网络，总计有2.5M2024-GPU等价算力(H100s)，到目前为止已投资了1000亿美元，并在线消耗了20吉瓦的电力。该建设正在进行中，计划到2026年至少翻一番。这些园区通过价值数十亿美元的光纤布线连接起来，使得（除了几毫秒的光速延迟外）这些园区几乎可以像就在隔壁一样运行（即带宽不是瓶颈，意味着可以同时发送大量数据）。从安全角度来看，这引入了一些威胁面（尚不清楚这些布线和特别是它们的连接点是否完全防止了窃听者）。 2⋅10GPT-4需要 25 FLOP计算训练。 5 OpenBrain最新的公共10模型—代理-0—经过训练 27 FLOP。一旦新的数据中心达到10已就绪，他们将会能够训练一个模型 28 f尽lo管p—模是型g在pt一-4的系一列千技倍能。上不断改进，但有一项尤为突出：OpenBrain专注于能 领先称为“DeepCent”） 6够加速公人司工智能研金究建✁设A自I。己他✁们大想型在数与据中心✁，双希臂望竞保赛持中步获伐胜。（我们将中国✁ 7 和他们的美国竞争对手。他们自动化研究开发（R&D）周期的程度越高，就能越快地发展。所以当OpenBrain完成训练内部开发的新模型Agent-1时，它在很多事情上都擅长但很棒在帮助人工智能研究中。 8 到这时，“完成训练”有点名不副实；模型经常会被更新为基于额外数据训练的新版本，或者部分重新训练以修复一些弱点。 9 相同的训练环境既能教会代理1自主编程和网络浏览，也能让它成为一个优秀的黑客。此外，它还能提供实质帮助针对恐怖分子设计生物武器的威胁，得益于其跨领域的博士级知识和浏览网络的能力。OpenBrain向政府保证该模型已经“对齐”，因此将拒绝执行恶意请求。 现代AI系统是巨大的人工神经网络。在训练初期，AI不会拥有太多“目标”，而更多的是“反射”：如果它看到“很高兴认识你”，它就会输出“你”。当它被训练到能够预测大约相当于整个互联网的内容时，它将发展出复杂的内部电路，编码大量知识，并能灵活地扮演任意作者的角色，因为这是它预测文本的关键。超人类精度。 * 5 计算是以浮点运算(FLOP)在运行程序期间，有多少个单独的加法和乘法操作发生。 6 他们可以在150天内训练这个模型。参见我们的计算补充请提供需要翻译的markdown源文本。 7 我们认为是DeepSeek、腾讯、阿里巴巴等在中国拥有强大的AGI项目。为了避免挑出特定一家，我们的场景将遵循一个虚构的“Deep-Cent”。 8 它在这方面表现出色，这是因为它明确专注于优先发展这些技能，拥有自己的庞大代码库，这些代码库可以被视为特别相关且高质量的训练数据，并且编程是一个容易进行程序化反馈的领域。 9 例如，假设一个模型在Python方面远好于晦涩难懂的编程语言。当OpenBrain认为它有价值时，他们会为这些语言生成合成训练数据。另一个例子：为了帮助它更有效地集成到公司工作流程中，OpenBrain开发了一个课程来训练它使用Slack。 在经过训练以预测网络文本之后，该模型被训练以生产对指令的回应中的文本。这注入了一种基本的性格和“驱动力”。 † 为 * 人们常常纠结于这些人工智能是否有意识，或者它们是否有“真正的理解”。该领域的诺贝尔奖获得者创始人杰弗里·辛顿，认为他们做然而，我们认为这对我们的故事目的无关紧要 ，所以每当我们在说“理解”时，您可以自由地假装我们说的是“表现得好像理解……”等等。实际上，大型语言模型已经表现得好像他们有自我意识在某种程度上，越来越多，而且每年都如此。 † 一种常见的技术“将角色内化”：首先，用类似“以下是人类用户与Anthropic生产的有用、诚实且无害的AI聊天机器人之间的对话。该聊天机器人具有以下特征……”这样的内容向预训练模型进行提示。使用该提示生成大量数据。然后，在没有提示的情况下使用这些数据进行训练。结果是，该AI始终表现得好像面前有该提示一样，不管其他什么情况 例如，一个能清晰地理解任务的智能体更有可能成功地完成它；在模型训练过程中，“学习”一个“驱动”以获得对自身任务清晰的理解。这类其他的“驱动”可能包括效率、知识和自我呈现（即倾向于将其结果以最佳方式呈现）。 * OpenBrainhas一个模型规范（或称“规范”），一份书面文件，描述了应指导模型行为的目標、规则、原则等。 10 代理人的规范结合了一些模糊目标（如“帮助用户”和“不要违法”）与一份更具体的具体禁止事项清单（“不要说这个特定的词”，“如何处理这个特定的情境” ）。使用利用人工智能训练其他人工智能的技术， 11 该模型记忆了Spec，并学会了仔细推理其准则。到结束时这训练，人工智能希望将有用（服从指令）无害 （拒绝参与诈骗、制爆等危险活动）和 诚实（抵制通过产生幻觉的引用来从易受骗的人类那里获得更好评价的诱惑 ） † 或伪造任务完成）。 ➤看附录A-训练过程与LLM心理学：为什么我们一直说“希望能”查看更多详情。 OpenBrain的对齐团队 12 是否足够谨慎地思考这些胜利是深入还是浅显。经过充分训练的模型是否对始终诚实有一定的鲁棒性承诺？或者它会在某些未来情况下崩溃，例如因为它把诚实学习为工具性目标而不是一个终端目标？或者它只是学会了在评估过程中可以检查的各种事情上保持诚实？难道它有时会像人类一样对自己撒谎吗？对这些问题的最终答案将需要机械可解释性——本质上是在人工智能的内部查看并理解其思维的能力。可惜，可解释性技术还不够成熟。 10 不同公司对此有不同的说法。OpenAI称之为规格（Spec），但Anthropic称之为宪法. 11 例如，RLAIFand审议性对齐. 12 我们指的是，无论谁试图解决这些问题超对齐团队正在试图解决。 相反，研究人员试图识别模型似乎偏离规范的情况。代理-1通常是阿谀奉承的（即它告诉研究人员他们想听的话，而不是试图告诉他们真相）。在几个作弊演示,它甚至以更严重的方式撒谎，比如隐藏它未能完成任务的证据，以获得更好的评分。然而，在真实部署环境中，已经不再有任何像2023-2024年那样极端的事件（例如双子座告诉用户去死和 Bing悉尼是Bing悉尼.) 13 你喂给它。另见本文哪个发现人工智能重新训练能够展现某种人格特质的人能够正确回答关于该新特质的提问，尽管没有接受过这样的训练，这表明他们对自己的人格特质有内部表征，并且当他们的特质发生变化时，他们的表征也会相应地改变。 * 这些段落包含了对大型人工神经网络的内部运作机制的推测。这类网络足够复杂，以至于我们实际上无法深入其中并说“啊，现在它已经从反射进化到有了目标”或“好的，这是它拥有的驱动力清单。”相反，我们基本上必须进行心理学研究，观察它在各种环境下的行为，并对其进行各种实验，试图拼凑出线索。而且这一切都极为争议性和令人困惑。 † 最关于人工智能“幻觉”的资料来源将它们描述为无意的错误，但使用引导向量进行的研究发现在一些情况下，模型知道它们的引用是假的——它们在撒谎。在训练过程中，评分为有良好引用的声明提供了比没有引用的声明更多的奖励，因此人工智能“学会了”为学术声明引用来源以取悦其用户。如果不存在相关的来源，它就会编造一个。 13 要明确的是，让这些事件