您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。 [钉钉]:钉钉 AI 助理平台核心技术实践 - 发现报告

钉钉 AI 助理平台核心技术实践

2024-12-01 柯杰 钉钉 用户zL5HoU
报告封面

演讲⼈:柯杰阿⾥钉钉/ AI开发平台技术负责⼈ 数字化的挑战与智能化的机遇 02核⼼技术实践 产品、开发、发布与安全实践 ⽬录 03总结与展望 开发模式变⾰的畅想 背景与趋势 数字化的挑战与智能化的机遇 企业数字化的挑战 to C产品to B产品聚焦共性需求⼤量个性化定制 效率提升依赖⼯具个性化定制,定制成本⾼! 智能化带来的机遇 核⼼技术实践 AI 产品三类场景 L3:业务智能化 L1:聊⼀聊 ⾏业主流 AI 应⽤进⼊实⽤的基本要求 明确能⼒边界 360度⽆死⻆可⽤ 有实⽤价值(解决实际问题) 拟⼈化的开发体验:AI 带来更低⻔槛的流程定制开发 拟⼈化的开发体验:连接数字化底座和业务场景 LUI 与 GUI 的融合:实⽤性与确定性优先于概念的创新 LUI 与 GUI 的融合 技能的打磨 规模与质量的权衡,不稳定技能数量再多也是零 技能的打磨:以⽇程为例 确定性来⾃正确认知: 1、⼤量⼯程,少量算法2、LLM擅⻓推理,不擅⻓计算3、只在LLM稳定推理的环节中引⼊算法,其他⽤⼯程去解决 技能的打磨:以⽇程为例 如果AI助理不认识某个⼈,可以通过多轮对话让AI助理认识这个⼈并添加到会议中 可以通过多轮对话添加新的参会⼈ 可以通过多轮对话修改会议时间等 技能的打磨:更多复杂场景 时间段:明天下午2点到3点的会议 时间点:10天后杭州的天⽓ 持续时间:明天下午拉⼀个2⼩时的会议 循环时间:每天上午9点推送资讯⼈性化时间:(上午10点)约⼀下4点讨论这个(不能是凌晨4点) 360度⽆死⻆可⽤才能从概念转⼊实⽤ 好友:组织外好友 真名:叫上张三⼀起 群所有⼈:@所有⼈下周庆功宴 团队所有⼈:拉上⾦喜团队所有⼈outing投票 群身份:@所有产品准备集中验收 记忆中⼈名:拉上⼩⿊⼀起 全代码技能开发 声明式API设计应⽤于AI助理技能开发:兼容OpenAPI Specification OAS⽣态 •Swagger•IDE插件•OAS Validator•…… 全代码技能开发:Grounding 声明式API设计应⽤于AI助理技能开发 x-dingtalk-context:property: currentUserformat: unionId x-dingtalk-entity:category: timeformat: iso8601 x-dingtalk-entity:category: nameformat: unionId ⼈名识别 获取上下⽂ 时间识别 全代码技能开发:声明式 API 应⽤案例 全代码技能开发:声明式 API 应⽤案例 全代码技能开发:从 Webhook 到 Stream 的提升 零公⽹IP 零加密/签名/TLS证书管理 ⽆需申请公⽹IP资源,减少端⼝暴露⻛险 Stream接⼊点⽀持安全传输协议,⽆需应⽤层复杂的加密⽅案 零⽣产部署对于简单的服务,在任意环境运⾏ 零⽹关部署⽆需域名及⽹关部署,⽹络联通即可 零内⽹穿透避免了复杂的内⽹穿透技术学习和服务部署 ⾃定义 Planning 重要性:持续的升级带来体验升级 完成感知系统和执⾏系统集成之后,随着算法引擎(⾃动驾驶/Agent)持续OTA升级,使⽤效率和体验持续获得改善 ⾃定义 Planning:快慢思考 慢思考:慢,啰嗦 快思考:快,简练 ⾃定义 Planning:快慢思考 慢思考:牺牲性能,提升准确性 快思考:不准确 ⾃定义 Planning:直通模式下的完全定制 ⾃定义 Planning:全链路可⼲预 Function call vs⾃定义 Planning ⾃定义Planning,探索复杂推理场景下规划⼲预/优化能⼒ 复杂推理,结合技能、知识、模型能⼒ 隐私安全:委托权限,助理访问数据不越权 AI助理可以访问:AI助理和⽤户的权限交集 例如:授权访问张三的⽇程不可访问: 1、张三⽂档 2、李四的⽇程 ⾃有账号: 多场域投放:账号体系设计 钉钉账号 钉钉账号(访客) 总结与展望 开发模式的变⾰ 传统开发:开发和使⽤是两个独⽴的过程,⼯程师写了⼤量胶⽔代码AI开发:⽤户既是使⽤者,也是开发者;API的编排由Prompt + LLM实现 Agentic workflows Non-agenticWorkflows AgenticWorkflows LLM⾃动推理 ⼈⼯编排 规划与编排⽅式:从「⼯程化」到「智能化」的升级 THANKS 智能未来,探索AI⽆限可能Intelligent Future, Exploring theBoundless Possibilities of AI