市场趋势显示,Agent技术即将迎来爆发式增长,其核心在于大模型时代下思考能力、行动能力和系统保障的深度融合。然而,AI智算需求增长的同时,模型思考和工具使用效率的提升也带来了运维难度的显著增加。
为应对挑战,腾讯云智算推出更贴近Agent的AI原生云解决方案,主要升级包括:
1. **更快的模型推理**:
- AI Infra底座与高性能软件升级,使推理集群性能发挥至极致。
- 支持多种模态推理加速,腾讯自研推理引擎覆盖生文、生图、生视频等模型。
- PD分离部署、模型量化及TACO Kit推理加速引擎进一步优化推理效率。
2. **更灵活的工具集成**:
- 发布AgentRuntime云沙箱,为Agent提供安全隔离的执行环境。
- 云沙箱专为大规模、生产级智能体设计,原生兼容社区沙箱,接入门槛低,减少适配成本。
- 安全隔离功能支持身份权限控制,保障环境数据安全;100ms极速启动进程快照技术,支持高达数十万每秒并发数,超高并发创建容量支持AgentRL等密集型任务。
3. **更可靠的系统守护**:
- 发布Cloud Mate云专家服务智能体,基础设施向主动服务跃进。
- HAI联合Tairos提供具身感知/规划模型服务,AI原生远程终端作为云端智能伙伴,让服务器“带内”操作如对话般简单,支持脚本/命令生成、应用部署、业务排障、命令纠错/解释及智能补全等功能。
腾讯云智算凭借卓越性能,获得国际机构和各行业客户的广泛认可。
——更贴近Agent的AI Infra
李力腾讯云副总裁主讲人
市场趋势:Agent即将迎来可预见的爆发式增长
大模型时代的AI Agent:思考能力、行动能力和系统保障的深度融合
AI智算需求增长
面临挑战:追求模型思考和工具使用效率的同时,运维难度显著增加
能力升级:腾讯云智算,成为更贴近Agent的AI原生云
更快的模型推理:AI Infra底座与高性能软件升级,推理集群性能发挥至极致
多种模态推理加速
腾讯自研推理引擎覆盖生文、生图、生视频等模型
PD分离部署
模型量化
TACO Kit推理加速引擎
更灵活的工具集成:发布AgentRuntime云沙箱,为Agent提供安全隔离的执行环境
云沙箱,专为大规模、生产级智能体而设计。原生兼容社区沙箱,接入门槛低,减少适配成本。
安全隔离
支持身份权限控制保障环境数据安全
-50%
云沙箱100ms极速启动进程快照技术
数十万
每秒并发数
超高并发创建容量支持AgentRL等密集型任务
更可靠的系统守护:发布Cloud Mate云专家服务智能体,基础设施向主动服务跃进
不止于虚拟世界,HAI联合Tairos提供具身感知/规划模型服务
AI原生远程终端,您的云端智能伙伴
让服务器「带内」操作如对话般简单
脚本/命令生成
应用部署
业务排障
命令纠错/解释
智能补全
卓越性能,智算首选,受国际机构和各行业客户认可
THANKS