新兴空间简报：AGI研究202410份

阿里·贾瓦赫里分析师，新兴技术 ali.javaheri@pitchbook.com 原文发表于2024年10月3日 布伦丹·伯克高级分析师，新兴技术 brendan.burke@pitchbook.com pbinstitutionalresearch@pitchbook.com 概述 热门公司 人工通用智能（AGI）研究的目标是开发能够进行推理、解决问题并能自主适应新挑战而无需针对特定任务的编程的软件。与训练于特定任务的窄AI不同，AGI有潜力执行人类能够执行的任何智力任务，具有自动化跨不同行业大多数经济价值工作的能力。 背景 AGI的根源可以追溯到20世纪中叶，与20世纪40年代第一台数字计算机的出现相吻合。艾伦·图灵等先驱提出了关于机器智能的关键问题，导致了1950年图灵测试的概念化。1955年，约翰·麦卡锡提出了“人工智能”这个术语，标志着人工智能作为一个领域的正式诞生。尽管像马文·明斯基这样的早期乐观主义者预测AGI将在十年内实现，但研究中的挫折导致了20世纪70年代的AI寒冬。 20世纪90年代，随着IBM的Deep Blue击败国际象棋大师加里·卡斯帕罗夫，计算机在追赶人类智能的道路上迈出了重要一步。未来学家如雷·库兹韦尔继续做出大胆预测，预测到2029年实现通用人工智能。21世纪见证了显著的进步，包括2016年DeepMind的AlphaGo在复杂的围棋游戏中击败世界冠军李世石的重大突破，这一成就需要创造性和战略性的思维。最近，2022年OpenAI的ChatGPT的发布标志着向通用人工智能的又一步飞跃，它能够生成类似人类的文本，并推动该领域投资的增长。 人类对通用人工智能（AGI）的着迷在流行文化中表现得十分明显，例如《钢铁侠》漫画书和电影系列中的JARVIS角色，代表了人们对于既能作为助手又能作为决策者的智能系统的追求。如今，怀揣AGI愿景的创始人正在筹集资本，希望通过预测当前的扩展定律，在风险投资（VC）的资金时间表中开发系统。AGI不太可能一次性出现；相反，它可能会通过各个领域的人水平突破而逐步发展，每个领域的发展都为AGI的更广泛发展做出贡献。 为了深入了解数据和探索更多见解，请访问PitchBook平台或请索取免费试用. 技术和流程 当前人工智能技术推动了狭义人工智能的边界，生成式人工智能（GenAI）代表了向更人性化的方向迈出的重要一步。然而，这些技术仍不足以实现通用智能。以下是当前技术和通往通用人工智能（AGI）道路上新兴方法概述。 领先的学者们持续辩论最有望的AGI方法。Keras的创造者、知名人工智能研究者François Chollet对当前AGI的方法提出了重大的担忧，特别是关于扩大现有大型语言模型（LLMs）将自然导致通用智能的观点。他的主要批评包括：1, 2 泛化与规模化：Chollet 认为，真正的通用人工智能（AGI）不会仅仅通过增加当前模型如Transformer的大小和复杂性而产生。这些系统高度专业化，缺乏在各个领域之间泛化知识的能力。仅仅扩大规模并不能解决适应智能的核心问题。 • 因果与抽象推理：根据Chollet的说法，当前的AI模型专注于统计模式识别，而没有理解因果关系。AGI将需要能够抽象推理和理解世界因果结构的系统。这种从相关性到因果性的转变对于构建通用智能至关重要。 • 以最小数据获取技能：Chollet强调，人类智能的定义在于其通过最小先验信息获取新技能的能力。当前模型在这方面是低效的学习者，依赖于大量数据集来完成特定任务。未来的架构需要设计为具有高效、适应性学习，并且对数据的依赖性较低。 Chollet的愿景表明，未来的通用人工智能（AGI）系统需要整合认知架构、因果建模和自监督学习过程，以实现类似于人类智能的灵活性和效率。当前模型虽然在推进窄人工智能方面取得了进展，但仍需进行重大的重新思考和革新，才能将AGI变为现实。其他对LLM途径通往AGI持怀疑态度的杰出研究人员包括Meta的首席人工智能科学家Yann LeCun；达勒-莫勒人工智能研究所的科学总监Jürgen Schmidhuber；华盛顿大学计算语言学实验室的主任Emily M. Bender；以及圣菲研究所教授Melanie Mitchell。 应用 人工智能已经在各个行业得到广泛应用，消费者经常与预测分析和推荐系统互动。同样，通用人工智能（GenAI）在摘要和文本生成方面的能力正越来越多地用于企业应用，以补充人力。鉴于人工智能在特定任务上的进步不均衡，通用人工智能（AGI）也可能在特定领域内不均衡发展，从而创造出具有意外模型改进的突破性应用。尽管通用人工智能（AGI）仍然处于理论阶段，以下表格提供了在从窄人工智能（narrow AI）和通用人工智能（GenAI）过渡到真正的通用人工智能（true AGI）过程中可能达到的里程碑的建议。 局限性 开发通用人工智能是一项艰巨的任务。当前的人工智能通用（AGI）研究在技术、金融、概念和伦理等各个领域面临着众多挑战。这些局限性共同强调了在研究进展过程中需要谨慎考虑的必要性。 技术和计算问题 • 计算的指数级成本：金融障碍对于AGI发展是显著的，计算成本大约每九个月翻一番。3大规模项目如Gemini Ultra产生了超过1.9亿美元的显著费用。4微软正在考虑开发一个价值1000亿美元的数据中心，以追求基于其内部模型基准的下一类模型。5 硬件限制：当前计算系统已因现有AI模型而倍感压力。AGI可能需要高度专业化的硬件和在大规模内存及服务器互连方面的突破，这进一步增加了开发复杂性和成本。 • 能耗：训练和运行前沿人工智能模型需要巨大的电力，因此扩大规模至通用人工智能（AGI）将进一步增加电力负荷。 • 深度学习的局限性：当前深度学习模型尽管有所进展，但主要依赖于数据的记忆而非真正推理能力的开发。它们缩放的能力并不一定转化为构建全面的“世界模型”或实现通用智能。 概念和认知障碍 • 智能的定义：关于人类学习所知甚少，以及由此产生的训练数据缺乏，创建人类智能的算法表示持续遇到理论障碍。 • 知识表示：有效地将广泛知识编码并以其机器可读的格式利用仍是一个重大障碍。 • 转移学习：AGI系统需要将来自一个领域的知识应用于新颖的情况，这种能力在人工智能中还远未完全实现。 • 常识推理：在人工智能系统中复制人类的常识和直觉仍然是一个主要挑战。 • 意识与自我意识：在目前看来，创建具有真正意识或自我意识机器的可能性尚不清楚，这为通用人工智能（AGI）研究增添了哲学维度。 伦理担忧与社会影响 • 人工超级智能：AGI或许只是迈向更具影响力的系统的第一步，例如人工超级智能（ASI），这种智能在各个领域都能超越人类，从问题解决和创造力到决策和社会理解。虽然AGI将在人类水平上运行，但ASI具有自我改进的能力、快速处理大量信息以及以人类难以理解的方式解决问题的能力。AGI被视为迈向ASI的第一步，但ASI由于其不可预测性和不可控制性，引入了更大的风险。 • 劳动力置换：AGI 有潜力自动化大量的经济价值任务，这可能导致广泛失业和重大经济扰乱。 生存风险：关于AGI（人工通用智能）演变至超出人类控制的担忧，可以通过“回形针最大化者”问题来举例说明，在这个问题中，一个被编程用于优化琐碎任务（例如制作回形针）的AGI可能会为了追求这一目标而损害人类。如果没有安全措施，AGI可能会将所有资源重新分配向这一目标，忽略人类需求或环境破坏。这一概念突出了AGI单一目的优化可能导致意想不到的灾难性后果的风险。 • 伦理监管：潜在与AGI发展相关的风险需要严格遵循道德框架和采取严格的安全措施，以确保与人类价值观和优先级相一致。 额外考虑因素 实体问题：关于是否应将通用人工智能（AGI）集成到物理机器人或系统中去的争论，为开发工作增添了另一层复杂性。 • 基准测试的挑战：基准对于通用人工智能（AGI）仍然模糊不清，这使得评估向真正通用智能进展的难度加大。 • 交叉学科性质：人工智能发展需要跨多个领域协作，包括计算机科学、神经科学、心理学和哲学，从而增加了这一事业复杂性。 最近交易活动和市场展望 2024年，AGI领域迎来了大量投资，主要科技公司和风险投资公司为开发前沿模型提供了相似规模的资金支持。xAI在B轮融资中获得了60亿美元，由 Valor Equity Partners 和 SequoiaCapital 资助，用于购置 10 万个 NVIDIA GPU，构建世界上最具实力的AI超级集群。与此同时，OpenAI正与投资者进行洽谈，计划筹集65亿美元，其中包括Thrive Capital和Apple，推动其市值达到1500亿美元。在中国，Moonshot AI从阿里巴巴、腾讯和高榕资本筹集了3亿美元，突显了全球对AGI的兴趣。 随着AGI研究的持续加速，人才竞争愈发激烈。大型科技公司，如亚马逊、微软和谷歌，不仅在AGI初创公司上进行大量投资，还在从这些公司挖角顶尖人才，以提升自身内部能力。这一趋势表明，一场针对人工智能霸权的更广泛的军备竞赛正在展开，AGI发展被视为各行各业和国家层面的战略重点。新成立的初创公司Safe Superintelligence（SSI）在美国和以色列都有员工，这表明个别国家将支持初创公司在国内推进AGI。公司正在优先考虑计算能力和尖端硬件，正如xAI开发出顶级数据中心架构和Aleph Alpha与超级计算独角兽Cerebras的合作所展示的。随着资金的增加，下一波AGI的进步可能会来自初创公司和行业内的最大玩家，使市场前景高度竞争和创新驱动。投资可能会从风险投资交易转向债务资助的资本支出，以建设GPT-5级模型所需的必要基础设施及其以上。 推荐阅读 •LLMs Are a Dead End to AGI, Says François Chollet，“自由思考”，克里斯汀·豪泽，2024年8月3日。 •“训练前沿AI模型的成本是多少？” Epoch AI，Ben Cottier等人，2024年6月3日。 •为什么通用人工智能超越深度学习，RAND，Swaptik Chowdhury 和 Steven W. Popper，2024年2月20日。 • “人工智能的地缘政治”，拉扎德，2023年10月17日。