核心观点与关键数据
大模型推理推动计算架构转向GPU核心
- 传统计算架构以CPU为核心,适合逻辑复杂程序,但AI推理的矩阵运算天然适合GPU的SIMT并行处理。
- 内存墙瓶颈:CPU DDR内存带宽50-200GB/s,GPU HBM带宽达2-5TB/s,数据供不应求是主要问题。
GPU直连技术探索与目标
- 目标:打破PCIe瓶颈,实现GPU间直接互联(NVLink/NVSwitch)、GPU直连系统内存(CXL)、CPU与GPU封装(如Grace-Hopper)。
- 存储直连:NVMe SSD直接传输数据至GPU显存,CPU仅负责指令,显著提升效率。
数据库向GPU-Native变革与效率提升
- 算子重构:传统DB算子需用CUDA/OpenCL重写,查询引擎直接调用GPU内核函数完成显存内数据处理。
- 显存管理:数据库需直接管理GPU显存,通过智能算法决定热数据驻留与快速数据交换。
- 数据布局:从CPU友好的行式存储转向GPU友好的列式存储,对齐磁盘、内存、GPU数据格式。
- 全面向量化:查询引擎需一次处理向量块,内置GPU加速向量索引以支持RAG。
公司技术路径与市场空间
- 公司GPU-native技术路径获英伟达认可,GTC大会展示,或与NV共同探讨GPU直连方案。
- ArgoDB为分布式闪存数据库,技术前瞻性强,市场空间广阔。
- GPU-native数据库性能显著提升:150GB数据TPC-DS性能最高提升20倍,前沿向量搜索性能最高提升200倍。
风险提示