您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [腾讯]:从跑得快,到跑得满:智算中心从建设到变现的工程解法 - 发现报告

从跑得快,到跑得满:智算中心从建设到变现的工程解法

2026-07-01 腾讯 小烨
报告封面

智算中心从建设到变现的工程解法 张晋|腾讯云运营商解决方案总经理2026MWC上海·智能数据中心峰会|2026年6月26日 P2 ·范式转移 智算中心的“工厂化”范式转移 智算中心不再是单纯的“机房”,而是一座座实时生产Token的AI工厂 01 02 03 产出爆发 竞争演变 结算单位跃迁 从“租借机架”转向“销售Token产出” 全网Token日均用量突破140万亿,千倍增长 AIDC核心竞争力=单瓦特电力的Token生产效率 黄仁勋GTC2026 国家数据局2026.03 身份重塑 P3 ·核心困局 消失的算力:“30%利用率”之困 国内智算中心GPU平均利用率不足30% (韦乐平· 2025云网智联大会) 算力生产率=标称算力×效能系数×满载系数 不是硬件不够,而是硬件潜力没被释放万亿级投资,70%在空转 效能系数为何只有0.6:三大成因 瓶颈3 瓶颈1 瓶颈2 显存瓶颈 计算气泡 网络瓶颈 万卡协同计算,0.1%丢包即导致≈50%算力效率衰减——同步等待空转 KV Cache随对话膨胀、碎片化显存未满,但任务已无法进入 Prefill算力密集/ Decode访存密集交替出现,Decode利用率仅5–15% 腾讯云的三招:对症下药 计算架构分离 网络无损化 全栈编译加速 Paged Attention +算子融合 PD分离架构 星脉高性能网络 柔性显存管理,碎片显存像网盘一样拼成整块 自研网络拓扑+拥塞控制算法万卡集群零丢包,拆掉通信墙 Prefill / Decode彻底解耦各拉到极致,消除计算气泡 对应③计算气泡 对应②显存瓶颈 对应①网络瓶颈 P6 ·效能效果 星脉网络+ TACO LLM + Ti-One 全栈优化套件在PD分离架构下,大模型在线推理实测: 每秒Token吐出量(tok/s) 在线吞吐量提升 优化前26,130 优化后49,692 同集群、同模型环境 同工厂同机器,优化生产线后产量翻倍——多出的吞吐量就是纯粹的利润 P7 ·满载对策 让每一张GPU “跑得满” 损耗来自两个维度 腾讯三管齐下 时间维度·潮汐现象 高低优混布 算力切分共享 潮汐调度 昼夜峰谷比超30倍凌晨算力近零产出空转 削峰填谷 资源池化 塞满空档 预测未来15分钟负载,空闲GPU自动释放给离线训练,回升即回收,全程透明 qGPU细粒度切分,一卡承载多任务,按算力显存弹性分配,消除碎片 训推混补、大小模型混布,打破资源孤岛,集群利用率飞跃 空间维度·粒度过粗 单任务独占整卡微小任务致碎片化浪费 P8 ·满载效果 TKE调度大脑+ qGPU算力切分 核心推理集群高强度业务混布实测: 实际运营TCO节约 综合满载率提升到 85% 50% 算力不再大面积空转,总拥有成本腰斩 24小时持续产出,利用率翻倍 P9 ·算总账 30% → 76%:变现的底层逻辑 算力生产率=标称算力×效能系数×满载系数 效能系数 30% → 76% 0.50 → 0.85 0.60 → 0.90 +70% ×2.5 +50% 潮汐调度·切分共享·多业务混布 从低效走向工业级高效 架构解耦·显存优化· TACO全栈 变现的前提是效率,效率的路径是工程。 升维智算底座,共启精益生产新时代 腾讯云坚持“被集成”,愿全面开放全栈优化方案与每一位同行共建高效能Token工厂,释放AIDC新质生产力