基于大模型的蚂蚁智能研发

CodeFuse代码大模型探索与蚂蚁智能研发发展路线

代码大模型探索

蚂蚁代码大模型的发展路线分为大模型能力演进和大模型效能产品演进两个阶段：

• 大模型能力演进：

  • 初期通过SOP方式编排多领域Agent，完成特定复杂任务或跨平台任务。
  • 后期集成平台知识库或平台特定数据对模型进行加训，通过对话方式提供研发平台知识问答。

• 大模型效能产品演进：

  • 从传统效能平台逐步升级为效能平台+Copilot，再到AI原生平台。
  • 阶段包括：工具化平台、半智能化平台、AI原生平台。
  • 最终目标是实现AI原生平台，即AI能力嵌入到用户每个操作中，通过更简单的操作完成更复杂的事情。

研发平台智能化

蚂蚁研发平台智能化的主要模式包括：

• Copilot+Chat模式：

  • 在现有产品功能上做智能化升级，适合生成式、总结类和推理类场景。
  • 用户通过侧边栏进行平台知识库问答或直接使用效能平台能力。

• AINative模式：

  • 以领域Agent为核心，对研发流程进行全面升级，增加超级会话及Agent调度与执行能力。
  • 建设AI原生的需求研发与交付平台。

难点与突破

算法关键技术与难点主要包括：

• 触发时机优化：

  • 基于上下文感知学习(ICL)能力，解决幻觉问题。
  • 通过Context-Aware感知边界，结合RAG+程序分析能力强化上下文。
  • 利用本地仓库中文件预处理构建的文本库/向量库做相似度检索，通过AST解析和链路追踪找到相关代码。

• 上下文感知意义：

  • 从单文件代码补全扩展到仓库内多文件代码补全，更加关注仓库整体依赖关系和相似代码段。
  • 单文件代码补全无法利用仓库内其他文件信息，导致补全不准和幻觉问题。

• 代码补全自适应生成粒度：

  • 采用Block-FIM技术，结合程序分析技术构建Block数据，Block粒度切分样本，模型生成完整Block停止。
  • 解决了大模型自回归训练适合Chat任务，不支持代码补全的问题。

未来方案思考

• 人工智能应用阶段：
  • 从AI程序员（Multi-Agent技术路线）逐步实现技术普惠，让AI让技术更加人性化。
  • AI不是替代研发人员，而是让更多人成为AI的助力。