两场平台变革同时发生
每隔十年到十五年,计算行业会迎来新的平台变革。但这次,是两个平台变革同时发生。
技术栈全面重构
整个技术栈将全面重构。开发者不再编写软件代码,而是训练软件模型。CPU和GPU的角色也将发生重大变化。
研发预算转移
研发预算将从传统方法转向AI方法,为现代化的计算价值提供资金来源。
两个主要变革
1. 物理AI
- 定义:理解物理定律并与世界交互的AI。
- 特点:创新在每家公司、每个行业同时被激活。
- 开源崛起:开源社区在物理AI领域崛起,推动创新。
- 开源模型:Nemo Tron、Neon、OpenFold、ForecastNet、Evl two、Alpha Mayo等开源模型被开发。
2. AI代理
- 新的原子单元:AI代理将超越记忆,走向推理。
- Agent Routing:未来将是专家组合的时代,一个模型远远不够。
- 模型类型:专有LLM、开源LLM、多云多型、视觉模型等将共存。
- 世界级模型:ElevenLabs等开源模型将涌现。
未来的交互界面
未来的交互界面不是菜单或命令行,系统本身就是交互界面。
物理AI的挑战
- 被困于屏幕之内:缺乏物理常识。
- 缺失的物理常识:需要解决这一挑战。
物理AI的三位一体架构
物理AI需要三位一体架构,包括计算、算法和数据。
物理AI的“CHATGPT”时刻
物理AI将迎来类似ChatGPT的时刻,生成式物理AI技能将实现对齐语言、图像、3D与动作。
物理AI的能力
- 生成照片级、物理连贯视频
- 交互式闭环模拟
- 推理、分析与预测
物理AI的飞轮
物理AI的飞轮效应将推动其快速发展,预计在未来5x10x1年内实现10x10x的性能飞跃。
地基:为物理AI打造的芯片
- VERARUBIN:专为机器人系统设计的AI超级计算机芯片。
- 性能提升:浮点性能提升5x,为AI超级计算机定制的大脑,提升2x。
- 重新定义数据流:机架内神经技术,NVLINK 6 Switch,网络吞吐性能提升25%,网络成本趋近于零。
- 释放算力,专注AI。
物理工程的革命
- 性能飞跃:5x性能提升。
- 重量:2吨。
- 晶体管数量:2.2京。
全球合作
全球主要科技公司都在推动物理AI的发展,包括微软、亚马逊、谷歌、联想、OpenAI、HPE、Quanta、华为、Meta等。
万恶之源:KV缓存
KV缓存是传统架构的瓶颈。
突破I:光之炼金
突破I是通过光之炼金技术解决KV缓存问题。
突破II:内存炼金
突破II是通过上下文内存革命,分布式KV缓存,VERARUBIN架构,实现节点新架构。
系统
- 节点新架构:VERARUBIN+16TB/GPU。
- 安全:功率平滑,压榨每一瓦。
抵达未来
通过以上技术突破,我们将抵达未来。
成本:重塑经济学
全栈AI技术革命应用
物理AI将推动全栈AI技术革命,并在各个领域得到广泛应用。