01 传统消息队列在AI场景中的局限性
AI业务场景具有更长的响应时间、更复杂的交互和更昂贵的计算资源等特点。传统消息队列难以满足AI场景对大上下文管理、轻量化通信模型和智能化资源调度的需求。
02 Lite-Topic:面向AI领域的新范式
Lite-Topic是RocketMQ面向AI领域推出的新范式,具有轻量化通信模型、轻量级Topic、轻量级订阅和消费分发策略等特点,能够有效解决AI场景中的消息传递和上下文管理问题。
03 优先级Topic:面向AI场景的分级消费策略
优先级Topic为实现智能算力调度提供了坚实的基础,能够削峰填谷保护AI算力,最大化AI算力利用率,并实现抢占式分配和按权重分配,确保高优先级任务优先获得宝贵的计算资源。
04 面向AI场景的应用案例
MQ和AI会话网关的续传场景:基于轻量级通信模型,实现会话粒度的消息传递和状态管理,解决会话网关场景中的状态管理和消息传递问题。
简单、轻量、高效:SAE快速部署AI应用实践
SAE提供全托管AI应用解决方案,具有低成本、稳定高可用、简单易用等特点,能够帮助企业快速部署和运维AI应用。
API管理能力再升级
HiMarket:Higress推出AI开放平台助力企业构建私有化MCP/Agent市场
HiMarket是企业级MCP市场的解决方案,能够帮助企业构建私有化MCP/Agent市场,实现API货币化和AI应用开发加速。
AIAgent发展趋势及架构演进
AI Agent的编程范式、核心演进路线和AI原生应用架构不断演进,SpringAIAlibaba、Nacos、RocketMQ等技术和方案为AI Agent的开发和运维提供了有力支持。
基于OpenTelemetry的AI应用可观测性
AI应用可观测性是AI应用开发的重要环节,基于OpenTelemetry的AI应用可观测性方案能够帮助企业实现模型调用全链路诊断、模型生成结果评估和AI全栈统一监控。
LoongSuite:可观测采集套件正式开源
LoongSuite是可观测采集套件,能够帮助企业实现AI应用的可观测性,支持主流Agent框架、A2A协议和MCP可观测等特性。