腾讯云智算全新升级,以应对应用和模型的爆发带来的基础设施挑战,并推动从云原生到AI原生的技术突破。云原生技术通过“效率+成本”的持续优化,引领场景创新,而腾讯及客户的AI应用增长驱动了智算的升级。
核心升级与功能:
-
完备工具链:
- 可靠保障:沉浸式体验推动服务稳定性和延展性重构。
- 训推效能:模型能力跃升驱动效能革命。
- 智能任务调度:国内首个Serverless混合GPU调度支持最高10万并发,100万QPS。
- 智能数据打标:全新vRDMA网络集群拓展比达98%,接近无损。
-
丰富套件:
- 向量数据库:支持双路检索(向量+关键字),千亿规模,500万QPS。
- AI应用日志服务:统一日志上报与可观测大盘,完整链路追踪,异常3分钟定位。
- 安全解决方案:覆盖大模型应用全生命周期,安全事件响应时间<2小时。
案例验证:
头部房产中介平台搜索业务通过向量数据库实现高效检索,AI应用日志服务和安全解决方案保障业务稳定与安全。
市场认可:
- 积极参与主流通信框架建设,Deepseek团队致谢称实现huge speedup。
- Gartner®生成AI云基础设施领域新兴市场象限中,产品性能和未来潜力维度均位列亚太第一。
结论:
腾讯云智算提供安全灵活的高性能智算底座,通过向量数据库、日志服务、安全解决方案及智能高效的资源调度(Serverless数据处理、TRMT通讯优化、vRDMA多机互联)和稳定可靠的基础设施(一云多芯、自研AI服务器、高性能存储、全球加速网络),与AI应用共生共长,成为业内公认的AI原生云。
腾讯云智算全新升级智算演进,应用共生
李力丨腾讯云副总裁
应用和模型的爆发,对基础设施带来全新挑战
从云原生到AI原生,场景正在引领全新的技术突破趋势
云原生技术的发展过程,是一个“效率+成本”不断优化的过程
腾讯及客户的AI应用增长,驱动腾讯云智算全新升级
提供完备工具链
可靠保障:沉浸式体验推动服务稳定性和延展性的重构
训推效能:模型能力跃升驱动效能革命
智能任务调度
国内首个Serverless混合GPU调度最高支持10万并发,100万QPS
智能数据打标
全新vRDMA更高性价比的多机互联网络集群拓展比98%,接近无损拓展
丰富套件:智能体落地依赖AI原生的完备工具链
案例:某头部房产中介平台搜索业务
向量数据库支持双路检索全面支持「向量+关键字」检索支持千亿规模,500万QPS
AI应用日志服务统一日志上报与可观测大盘完整链路追踪与异常3分钟定位
安全解决方案覆盖大模型应用全生命周期安全事件响应处理时间<2小时
腾讯云智算已成为业内公认的AI原生云
积极参与主流通信框架建设Deepseek团队致谢并声称huge speedup
Gartner®生成AI云基础设施领域新兴市场象限产品性能、未来潜力维度均位列亚太第一
安全灵活的高性能智算底座,与AI应用共生共长
向量数据库、日志服务、安全解决方案
智能高效的资源调度Serverless数据处理、TRMT通讯优化、vRDMA多机互联
稳定可靠的基础设施一云多芯、自研AI服务器、高性能存储、全球加速网络