AgentScope：迈向 Agentic 智能体应用

AgentScope项目技术负责人 AgentScope AgentScope是通义实验室推出的开源智能体框架，作为百炼Agent平台的技术底座，以开源方式聚焦智能体相关技术与功能的前沿探索，提供开发、训练、部署和管理的生产级解决方案 AgentScope技术特色 AgentScope围绕Agentic的核心理念进行构建，提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能 AgentScope技术特色 AgentScope围绕Agentic的核心理念进行构建，提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能 模型能力集成 本地部署文本、视觉、语音、全模态等 AgentScope技术特色 AgentScope围绕Agentic的核心理念进行构建，提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能 智能上下文管理 Mem0，ReMe自主存储检索 AgentScope技术特色 AgentScope围绕Agentic的核心理念进行构建，提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能 工具管理 StreamableHTTP，SSE和STDIO类型有状态无状态Anthropic Agent Skill AgentScope技术特色 AgentScope围绕Agentic的核心理念进行构建，提供模型能力集成、多智能体编排、智能上下文管理和工具管理四大核心功能 多智能体编排 动态图 糖， AgentScope技术特色 AgentScope-Runtime提供Agent-as-a-Service能力，支持将Agent封装为可独立调用的API服务，实现灵活部署、降低成本和快速迭代 AgentScope:智能体的观测 AgentScope:智能体的观测 提供运行时的数据统计 AgentScope:智能体的观测 AgentScope:智能体的观测 支持全链路的数据追踪 AgentScope:智能体的观测 AgentScope:智能体的观测 AgentScope:智能体的优化 AgentScope通过Trinity-RFT提供面向Agentic应用的RL训练能力，从而支持开发者实现智能体应用的快速迭代和优化 提升收敛效率 实时联动训练与奖励信号，实现反馈闭环 AgentScope AgentScope是通义实验室推出的开源智能体框架，作为百炼Agent平台的技术底座，以开源方式聚焦智能体相关技术与功能的前沿探索，提供开发、训练、部署和管理的生产级解决方案 AgentScope-Alias 利用模型的“规划-执行-反思”能力，智能体可以把复杂问题拆解成若干可执行的子任务，并最终完成交付 典型应用场景 •DeepResearch：研究子课题拆解→分课题进行联网搜索→整理报告输出•DataScience：找到数据库位置→生成sql语句并执行→根据执行结果调整sql→数据可视化展示•BrowserUse：用户指令拆解→分步骤操作云电脑桌面→根据环境变化动态调整下一步动作→完成任务 AgentScope-Alias 智能体数字分身 Alias是基于AgentScope构建的通用智能体应用平台，通过自然语言交互让人工智能成为您的数字化助手。它能够理解需求、记住偏好、执行复杂任务，提供开箱即用的完整解决方案，支持多种专业场景模式切换，具备长期记忆能力，让智能体应用的开发和使用变得简单高效。 AgentScope-Alias 多智能体智自主协作 Alias内置五种智能操作模式可灵活切换，包括通用对话、浏览器自动化控制、深度研究分析、金融数据分析、数据科学处理等专业场景。每种模式都经过精心优化，确保在特定场景下发挥最佳性能，真正做到一个平台满足多样化的业务需求。 AgentScope-Alias 快速部署，即刻上线 Alias提供完整的部署解决方案，支持命令行工具快速启动和全栈应用部署两种方式。命令行适合开发者快速集成，全栈方案支持企业搭建定制化服务平台。平台内置工具记忆和用户画像服务，实现跨会话追溯和个性化体验，为智能体应用提供全生命周期支持。 AgentScope–更多开箱即用的智能体 提供涵盖金融分析和交易、数据处理、语音交互、文档问答等多元场景的，开箱即用的智能体 用户通过自然语言交互即可完成从数据查询、配置管理到代码生成的工业级数据处理全流程 结合，覆盖TTS、语音和实时语音API三种服务场景，作与Agentic RAG检索增强技术实现的问答型智能体，能够动态规划、自主决策并提供精准回答 时股市行情介入、回测与实盘双模式，配备可视化面板 AgentScope智能体开发框架 ApacheRocketMQforAI 面向AI应用的异步解决方案 周礼 01AI场景下异步架构的新挑战 02LiteTopic：面向AI场景的轻量级事件载体 Contents目录 03基于LiteTopic实现精细化流控 04基于LiteTopic的异步AI会话网关 1.AI场景下异步架构的新挑战 传统互联网应用和AI应用的对比 AI应用的特点 策，完成任务，业务流程不固定业务时长：不可预测性更高，平均耗时长，部分场景可达分钟级甚至更长交互方式：单次任务交互次数更多，需要高效的状态管理和会话管理运行成本：GPU的运算成本远高于CPU，AI应用的成本压力更大 传统应用事件驱动vsAI应用事件驱动 AI应用异步事件驱动新特性 容易堆积 塞，使短任务被迫等待，影响整体并发效率与用户体验结果可溯：系统异常恢复后，可获取历史 任务结果，避免重复请求LLM，减少冗余推理，降低成本 面向AI场景的消息中间件 消息中间件演进方向 差异化：传统异步模型基于任务同质性设计，在分布式切片的架构下，只需少量Topic与集群消费提升吞吐。AI任务高度差异化，要求消息系统能够为每个差异化任务单元提供独立的消息通道 务，成本低可行。AI场景重试代价高昂，消息回溯需从重试转向复用，支持结果留存与快速读取，实现低成本故障恢复大消息体：AI推理结果体量大，要求消息中间 件支持更大消息体。需通过分片、压缩等机制，实现大内容的高效传输与可靠存储。优先级：支持不同的SLA 2.LiteTopic：面向AI场景的轻量级事件载体 传统消费模型：基于Group的共享消费 LiteTopic消费模型：差异化订阅 LiteTopic消费特点 自动清理，带TTL轻量：可创建百万级别的轻量级队列差异化：单个客户端可以订阅万级别Topic，不同客户端订阅关系可以完全不同，也可以相同独占（可选）：一个LiteTopic只允许一个客户端订阅 LiteTopic消费模型实现 能否复用现有方式，只是每个客户端使用独立 的Group订阅多个Topic？不可行1.读请求数量急剧膨胀 2.轮询导致的无效扫描增多，CPU开销增大3.无法支持独占订阅4.Topic要预先创建5.客户端与各自Group绑定，使用很不方便 LiteTopic消费模型实现 海量差异化订阅模型 阅，注册到服务侧，分片存储 LiteTopic对应一个逻辑队列，消息存储时自动创建③事件分发：每个客户端有专属的事件队 列，根据订阅关系集合进行分发④事件读取：一客户端读请求归一化，不 必对每个LiteTopic发起读请求；直接读事件队列，避免扫描数据面控制面分离、推拉结合、事件驱动 3.基于LiteTopic实现精细化流控 队列级共享消费导致阻塞 共享队列阻塞 队列共享：单一Topic包含多个队列，所有队列共同承载多用户消息，资源共用、无隔离 列中，隔离程度很低 续所有消息（无论归属谁）均被阻塞，无法消影响公平：单用户密集提交慢任务，可能抢占 全部队列头部，导致资源独占，引发其他用户延迟上升，破坏系统公平性，拖慢整体响应。 消费端线程池非阻塞模型 非阻塞消费线程池模型 线程模型瓶颈：消费端实际并发能力受限于线程池大小，预拉取+线程池模型下，线程一旦被慢任务占用或者用sleep实现限流，即无法释放，即便队列物理隔离仍会导致资源卡死 回suspend，立即释放当前线程，避免空等浪保障公平：释放的线程可立即处理其他用户的 快速任务，提升整体吞吐与多用户调度公平性 基于LiteTopic实现精细化限流 实现方案关键点 物理隔离：以用户名作为LiteTopic名称，实现用户级物理隔离 精准流控；可以按用户配置差异化阈值，打造“千人千面”的流量治理能力挂起机制：用户触发限流时，消费者返回 suspend，立即释放线程，服务端暂停拉取，避免资源浪费；释放的线程可即时处理其他用户请求，实现资源的弹性调度与高效复用 4.基于LiteTopic的异步AI会话网关 现有AI会话异步方案的瓶颈 现有方案的局限性 固定接收节点，难以支持会话粘性，导致结果回传错乱或依赖复杂状态同步 据恢复，无法快速读取多轮会话上下文消费方式：集群消费模式无法支持消费差 异化，需要共享、互斥等消费模式来支持多种会话场景交互 异步会话网关现有方案的局限性 现有实现方案 任务提交：用户连接到某网关机器，提交任务，该机器将任务信息写入共享缓存 务，完成后将结果写入到结果队列④⑤⑦ 果队列：若接收用户消息的机器是用户所连网关实例，则直接推流；若不是用户所连实例，则将结果存入缓存，并发送广播广播消费：所有机器收到广播后，如果 是本机所连接用户的任务，从缓存读取结果并返回，否则忽略问题：流程复杂、依赖组件多、广播无效 基于LiteTopic实现全异步会话网关 优化后的方案 任务提交：用户连接到某网关机器，提交任务，该机器将任务信息写入到任务Topic（普通类型），消息中携带Session信息，并订阅对应Session名字的LiteTopic 点）消费任务Topic的消息，处理后将任务结果写到Session名字的LiteTopic返回结果：订阅SessionLiteTopic 的网关机器收到任务结果，直接返回给用流程简单、全异步、依赖组件少、无需广 播消费、支持断连恢复 异步会话网关断连恢复 中断恢复 （Session1），后端智能应用将结果写到SessionTopic1，网关机器1返回浏览器断连：浏览器或者网关机器原因断连 浏览器重连：网浏览器重新连接到网关 机器2，标明恢复会话为Session1，网关机器2订阅LiteTopic（Session1），从断点处返回数据无状态网关；支持指定Last-Event-ID、 LastN模式，便于端上重新组织数据 5.实操演示 实操演示：会话重连 实操演示：基于RocketMQ的多智能体通信 RocketMQ for AI用户交流群二维码 THANKS HiMarket：企业私有化开放平台企业落地AI应用架构的最短路径 AI开放平台，顺势而生从云原生架构到AI原生架构 CONTENT目录 HiMarket构建AI场景、AI市场、AI治理模型、MCP、Agent、安全，全方位的能力进化 帮助企业构建AI应用协作机制，实现AI应用货币化 Himarket作为开源产品欢迎大家来共建 人工智能+即将大规模爆发 技术持续迭代 Software 1.0 Software 2.0 Software 3.0 70% ⚫2030年：应用普及率>90%，智能经济成为增长极，技术普惠 2027年 2035年 2030年% ⚫2035年：全面进入智能经济、智能社会阶段 企业落地AI架构会遇到那些问题？ 企业落地面相全员做AI场景加速创新，会遇到的一些通用问题 哪些高频场景可以快速让所有人参与？ 企业多个团队如何协同，权限如何管 企业开始大规模落地Agent，都会遇到 理，成本如何分摊？让AI创新安全合规可控？ AI不是技术开