腾讯云智算套件

腾讯云智算套件

业务挑战

智算中心建设蓬勃发展，企业对AI基础设施本地化需求日益增长。智能算力存在木桶效应，除GPU外，网络、存储等因素同样关键。

方案简介

腾讯云智算套件是腾讯云推出的全栈智算解决方案，旨在帮助用户构建本地化云智算平台。该方案具备高性能、高可用、高性价比特点，并拥有成熟、稳定的完整软硬件智算生态，实现算存网一体化。

方案优势

1. 自研套件全面加持，极致提升AI性能
   • 加速框架
     • 训练加速TACO-Train：业界首创混合序列并行技术，FP8训练性能提升20%-45%。
     • 推理加速TACO-LLM：Training-Free预测采样技术，解码速度提升5-10倍，支持70B+大模型极速优化。
   • 软件服务
     • 高性能计算集群HCC/CVM/CBM：AI大模型训练性能提升30%以上。
     • 高性能网络IHN：3.2T通信带宽，3分钟拥塞消除，1分钟故障发现、3分钟定位、5分钟自愈。
     • 高性能存储TurboFS：100GBps存储带宽，单客户端5GB/s带宽，百us级延迟。
     • 云原生调度编排TKE qGPU：支持多种容器GPU插件和RDMA网络，解决GPU共享干扰问题。
2. 千锤百炼，成熟稳定
   • 历经公有云百万客户及腾讯内部超700个应用验证，1:1迁移至私有化场景，满足企业私有环境智能算力需求。

应用场景

• 自然语言处理
  • AIGC大模型训练：支持泛互、出行、金融等行业，应用于人机对话、智能客服、文本分析、情感分析等场景。
• 科研计算
  • 支持高校、研究院、药企等客户，应用于AI制药、电力仿真、分子动力学仿真等场景。
• 自动驾驶训练
  • 支持终端车企、解决方案商客户，应用于自动驾驶目标检测、AI感知决策等场景。