丁宇-AI 编程颠覆 IT 生产力

阿里云云原生应用平台负责人 云原生应用架构演进 云原生技术带来生产力飞跃 容器化编排调度、分时复用弹性伸缩、混合部署，提升了企业资源效率容器化上云、K8s化管理、Serverless化架构，提升了企业运维效率微服务、容器化、DevOps、GitOps、IaC，提升了企业交付效率 企业对技术红利的追求是无止境的程序员产能和软件研发效率成为企业竞争发展的瓶颈之一设计、研发侧过去十多年没有发生根本性变化，如何提效？ AI时代：数据、计算与模型协同发展，知识触手可及 编程成为最高频的AI应用场景 Politics & Nonprofit3%(Analysis of unique users’single and multi-prompt sessions from May & June, 2023) 大模型带来了AI应用的井喷，在各种落地场景中，最高频刚需的是什么？ Datos针对2023年5-6月ChatGPT用户使用情况做了分析，其中编程以29%占比高居榜首 程序员的时间分配情况 程序员花费三分之一的时间编写新代码或改进现有代码（32%）。花费35%的时间来管理代码，包括代码维护（19%）、测试（12%）和响应安全问题（4%）。另外23%的时间花在会议以及管理和运营任务上 LLM带来新的人机协同模式 产品实现路径三阶段 通义灵码，你的智能编码助手 •通义灵码是基于通义大模型实现的智能编码助手，提供代码智能生成、研发智能问答等能力，帮助程序员更高效的写代码•支持Java、Python、Go、C/C++、C#、JavaScript、TypeScript、PHP、Rust、Scala等200多种编程语言•支持Visual Studio Code、JetBrains IDEs等主流IDE及远程开发模式，兼容Windows 7以上/MacOS/ Linux操作系统。 阿里云使用场景友好 基于阿里云MaaS产品体系构建 优秀的模型能力，通义灵码多项模型指标领先 1）公开数据集评测结果中，通义灵码的代码生成模型多项指标领先于友商 2）72B模型，使用超过3万亿tokens的数据进行预训练，在多个中英文评测中，显著超过友商模型，并且稳定支持32K上下文 通义灵码使用场景 研发领域自由问答 代码实时续写 异常报错智能排查 单元测试生成 代码注释生成 根据当前语法和跨文件代码上下文，实时生成行/函数建议代码 研发领域知识问答，快速获得答案和解决思路 一键生成方法注释及行间注释 一键启动报错排查的智能答疑，快速反馈排查思路或修复建议代码 根据JUnit、Mockito、Spring Test、unit test等框架生成单元测试 研发领域模型定制 核心编码场景覆盖 为开发者体验设计 通义灵码功能演示：代码续写 代码续写 单元测试生成 调试问题排查 通义灵码功能演示：单元测试生成 代码续写 单元测试生成 通义灵码功能演示：调试问题排查 单元测试生成 通义灵码四大优势 编码时行级/函数级实时续写，编码效率高毫秒级的生成速度 恰到好处的生成时机 用户键入和生成时机针对性优化，不等待不打扰 恰如其分的生成长度 根据语法、代码上下文环境智能化识别生成长度 贴合代码库的业务场景 支持跨文件上下文感知，生成代码更贴合代码库上下文 125.00%毫秒级的生成速度：分级缓存、丰富的模型组合 恰到好处的生成时机：自适应的触发策略 针对不同的端，对用户行为进行持续学习、优化触发策略，符合开发者的使用习惯 恰如其分的生成长度：基于语义理解的自适应生成粒度决策 问题 •生成单行代码：无法构建完整的函数或模块•代码块的不同提供不同生成规则：准确度低 通义灵码基于代码的语义信息，充分让模型理解不同场景下所需的生成粒度，从而让模型能够根据当前正在编写的代码位置，自适应决策应该生成的代码粒度 决策准确率显著提升： Java语言：47%提升到56% Python语言：26%提升到44% 贴合代码库的业务场景：基于库内感知的代码生成及问答 贴合代码库的业务场景：本地库内检索增强 •通过感知本地工作空间中的源文件进行预处理，建立用户本地的向量化索引，基于本地工作流编排，完成多阶段任务•用户的代码都存在本地，保障用户代码安全和隐私 企业级RAG：贴合企业及行业经验 整个工程级的任务辅助（1/3） 从理解一个文件到理解整个工程 整个工程级的任务辅助（2/3） 整个工程级的任务辅助（3/3） 在整个工程中辅助生成相关业务代码 通义灵码显著提升开发者工作效率 当我们深入研究开发人员使用通义灵码的效果时，从1124份有效问卷中得出： •编码工作效率提高：72.51%的受访者给出了4分以上•保持心流工作状态：80.46%的受访者给出了4分以上•减少重复代码的编写：76.87%的受访者给出了4分以上 通义灵码4月入职阿里云 阿里云是国内首家推行全员AI编码的云厂商 周活跃开发者占比 通义灵码5月入职中华财险 中华财险积极拥抱云+ AI通义灵码应用于内部代码研发场景，提升开发效能 AI代码生成占比 产品实现路径三阶段 研发领域多智能体协同模式 研发领域多智能体概念架构 •结构化任务管理：多智能体的工作模式反映了人类团队如何分解大型任务，提供一种分配任务和管理智能体的直接方法 •简化工作流程：将复杂的任务分解为更小的子任务使整个项目更易于管理，提高灵活性和适应性，符合企业特点和需要 •高效执行任务：让某个具体的智能体专注于特定任务。每个智能体能够专注地分析并执行任务，提高系统工作效率