蚂蚁集团OpsGPT落地实践和技术开源
OpsGPT项目起源
蚂蚁集团围绕监控、应急、容量、变更、资金、基础设施6大核心领域建设AI智能化&自动化能力，实现风险降低、效率提升、成本节约。OpsGPT项目旨在解决更多重人力投入场景，特别是围绕非结构化数据，利用人擅长语言交流/文档记录/代码编写的优势，拓展智能化&自动化边界。
OpsGPT落地探索
复杂多步骤推理
- 大模型劣势：现有LLM在多步推理中表现不足，无法处理专业领域复杂问题，且推理过程不可控、不可解释。
- 人类经验借鉴：通过DevOpsEKG（EventicKnowledge Graph）从多源数据中获取复杂问题处理经验并结构化存储，结合LLM+EKG实现现实领域复杂问题处理。
- 多步推理实现：围绕EKG，协同LLM、Agent框架演进，包括图谱推理（游走、更新、修正、探索）和FunctionCall实现流程自动化。
单步任务-所需Tool
- 大模型不足：缺少实时信息、环境交互、事实问答、多模分析、数值计算能力。
- 解决方案：通过查询Tool、操作Tool、RAG增强、AI小模型、沙箱环境等弥补大模型短板。
OpsGPT能力范畴
- 模型构建：结合EKG、LLM、Agent等技术，实现多步推理和单步任务处理。
OpsGPT未来演进
产品演进
- 各产品集成：LLM能力嵌入原有各产品平台，用户按原有习惯操作。
- 大产品统一：用户无需切换平台，通过对话实现所有信息查询/操作。
- 浏览器插件：提供浏览器插件，增强原有平台操作交互模式。
技术演进
- 动线采集：探索自动化采集人的操作行为并清洗数据。
- 不可预估事件处理：大模型如何利用现有信息自动探索推理并沉淀成功路径。
- 信息提取：构建DevOps领域信息提取基座，无需微调直接使用。
- 多模对齐：通过ToolLearning实现OpsGPT理解时序、图像等模态数据。
- 系统理解：让LLM理解大型业务系统，推动Dev+Ops范式变革。
OpsGPT技术开源
为什么要做开源
- 资源短缺：提供统一基座（Base+Chat），方便各场景直接使用或微调。
- 行业标准：推动NLP、CV领域技术迭代演进。
- 角度更多：多角度问题定义和数据贡献，完善统一基座。
开源项目简介
- DevOpsChatBot：DevOps垂直领域基座模型（Base+Chat），支持直接使用或微调。
- DevOpsModel：产品应用，围绕Agent（Multi-Agent交互、ToolLearning、RAG）结合KG等技术。
- DevOpsEval：DevOps领域大模型专属评测集，包含知识问答、领域任务和通用任务。
