人工智能系统建模创新

核心观点

• 复合AI系统： 基础模型（如GPT、Gemini等）的进步正在推动“复合AI系统”的发展，这些系统包含至少一个AI模型和其他组件，通过操纵数据方式（模型未学习的方式）来完成任务。
• 系统与模型创新矩阵： AI创新可以通过四种途径进行：模型到模型、模型到系统、系统到系统、系统到模型。其中，系统到模型创新是一个新兴且具有重要影响的途径。
• 系统到模型创新案例：
  • AlphaGo到AlphaGo Zero： 通过将策略网络和价值网络整合到一个深度神经网络中，AlphaGo Zero实现了更高效的表示，提高了性能。
  • 思维链到推理模型： OpenAI的o1模型通过强化学习将思维链推理系统集成到模型训练中，无需提示工程即可实现逐步思考，并通过推理时间计算范式提高性能。
  • RAG到OneGen： OneGen将RAG的检索器和生成器组件整合到一个模型中，提高了效率，并展示了在RAG任务上的竞争优势。
  • 电路到短路： 通过控制向量和电路技术研究， Anthropic和Gray Swan等机构开发了电路断路器，用于安全训练语言模型，并通过系统级创新提高了模型的安全性。
• 系统级创新的重要性： 系统级创新具有独特的技术优势，可以促进AI的扩散，扩大贡献者的基础，并在军事和经济领域带来优势。
• 政策启示：
  • 保护： 政府应保护小型公司作为隐性知识的孵化器，并提供安全测试和红队评估等补贴服务。
  • 扩散： NAIRR应扩大对推理计算基础设施的访问，并提供联邦拨款和领域建设活动，以支持系统级创新。
  • 预期： 政府应开发新的工具和方法来跟踪系统级创新，并与盟友和伙伴国家进行合作。

关键数据和研究结论

• 基础模型成本下降： 每个token的成本迅速下降，推动了AI的扩散。
• 推理时间计算范式： o1模型等新范式通过推理时间计算来提高性能，降低了模型开发的成本门槛。
• 系统级创新的影响： 系统级创新可以提高模型性能，降低成本，并促进AI在军事和经济领域的应用。

结论

系统级创新是AI发展的重要途径，政府应制定政策来支持系统级创新，以促进AI的扩散和广泛应用，并确保AI的安全和可靠。