AI智能总结
演讲⼈:victorhuang腾讯云/专项性能⼯程中⼼ 01为什么“下半场” AI 领航:开启降本增效“下半场” 为什么是“下半场”? •上半场:初步的成本削减和效率提升措施 •产品聚焦 •⼈少事多,进来的新⼈缺乏经验 •⼈员精简 •B 端新⼈企业也容易承压 •异地⼦公司 •异地沟通更困难 - 简单的成本削减失效 -普通的招数⽤尽:⾃动化-陷⼊⼈⼒死循环:没精⼒破局 AI 这么⽜但是跟我们的痛却并不相连? •下半场:AI 领航,保战⼒,提战⼒ 保持团队战⼒:⽤知识传承来保持战⼒ •⽼板们早看出来了,设定了各种“知识”奖•解决⽅案:知识库wiki + RAG + AI•难点:•RAG 检索从兴奋到冷静,从完全不能⽤到 ok•RAG 的全局性问题效果不佳 知识检索:RAG 从完全不靠谱到OK 问题:我应该怎么新建提示词⼯作流,然后不公开分享出去给别⼈使⽤? 遗留问题:- 完全没有提到⽂档中的FunctionCall 更进⼀步的知识检索:拍扁的神经⽹络 = 知识图谱 关联了更多⽂档中的相关知识点 普通 RAG 【案例】RUM ⼯单处理⻜轮-沉淀 从⼯单的聊天记录中,沉淀出解决⽅案 【案例】RUM ⼯单处理⻜轮-⼊库 最终沉淀落地的解决⽅案 【案例】RUM ⼯单处理⻜轮-检索 相似⼯单出现,检索我们沉淀的解决⽅案 【案例】RUM ⼯单处理⻜轮-输出解决⽅案 结合⼯单知识库,输出解决⽅案 依旧有的挑战 【案例】⼯单可以,POC 是不是也可以 •POC 之痛,坐在⾦库上讨饭吃 •性能优化专家和 IaaS 专家难得出⼿,为什么没有⼈沉淀下来? •期望⾃动化程度更⾼,⽀持iwiki读写, 多模型提⽰词,企业微信 •上下⽂⻓度限制,总有遗漏的知识 按照步骤完成任务:第⼀步:请你获取企业微信聊天记录,第⼆步:请你调⽤“提取POC技术要点解释”的提示词,第三步:对于第⼀步输出的解释信息,我会给你修改意⻅,请你根据意⻅和解释信息调⽤“POC技术要点解释改进”进⾏优化第四步:使⽤python函数执⾏器获取第⼀⾏换⾏并且以#开头的内容作为标题第五步:对于优化后的解释,将其写⼊到dir_id为4010805008的⽂档⾥第六步:对于优化后的解释,发送到bob的企业微信中 我们⾃⼰吃狗粮,不断打磨的 WORKFLOW •可⽤性: •想针对每个点来调⽤ AI?•AI ⽣成的结果不够好?“智能”批处理中断补充 •易⽤性: •⾃然语⾔的 workflow,精准描述费劲?•⾃动⽣成的代码出问题了?•怎么介绍⾃⼰的提⽰词呢? AI ⾃动⽣成⼀键转FLOW内嵌调试 •拓展性 •定义⼯具和参数,但是 AI 怎么理解? 不断调整的FewShot•流程 VS ⼯作流,怎样多⼈协作? iwiki扩展协作能⼒ •可靠性 •这么⻓的流程,怎么定位问题?后台监控,前台展⽰ •模型更新灾难? 每⽇系统提⽰词⾃动测试 落地成效 【案例】RUM 性能微解决⽅案 •现实 •理想 •云是?独善其⾝到兼济天下•当年的客户成功,帮助银⾏客户解决他们⽆⼒解决Crash问题•Fibona SDK 的⽅式,提供给 RUM(性能监控){{ •端问题千奇百怪•监控端缺少太多信息,例如空指针导致的Crash•竞品其实都没有太好 专家问题分类,逐个击破可以⾃定义的FibonaFlow资源问题时序问题⾮法操作第三⽅库/系统库错误使⽤第三⽅库错误不断更新腾讯独家知识库线程安全OOMNative Crash内存越界……..Fd泄露、内存泄露....,Hprof 和 fd快照分析空指针、线程安全…, 基于⽇志的时序分析内存越界等,asan分析官⽅⽂档升级⽇志和 git ⽇志 【案例】RUM 性能微解决⽅案 1. AI 沉淀了 80 多篇经过审核的解决⽅案库2. 利⽤ Fibona AI 持续沉淀/更新中 phind 某AI 搜索某竞 正确答案 成果:这个功能先上线到了崩溃分析模块 ⼩结:从简单的沉淀到构建⻜轮,再到让⻜轮转起来 提升团队战⼒:提建议到给代码 •AI 的下⼀步,可以还是 AI 吗? •性能分析的下⼀步是修改代码,解决性能问题 •挑战: •出问题的代码的关联上下⽂很多,怎么给,多了有噪声,少了不靠谱 •使⽤抽象语法树 •参考 coderabbit 开源版本,⽤⾃然语⾔描述相关代码 •DROP,RUM 都是性能分析⼯具,没有具体代码,怎么给建议 与⼯蜂AI联动,打造“下⼀步”的开发体验 ⼩结:⽤ Fibona AI来打破数据孤岛的次元壁 未来打造团队战⼒:独特的竞争⼒ - 怎么才算是核⼼竞争⼒ Rareness 稀缺性 每个⼈和组织 + AI与AI 带来的⾃定义 每个平台 + AI 与 AI 带来的⾃定义 未来打造团队战⼒:独特的竞争⼒ - 怎么才算是核⼼竞争⼒ Value 价值 Organization 组织 •⾃定义知识⻜轮•⾃定义协作模式,iwiki & 企业微信的配合•⾃定义⼈才培养,NotebookLM⾃定义⾃定义⾃定义 •⾃定义领域专业话术,体现专业度•⾃定义⾃动化提升执⾏效率•⾃定义决策模型提升决策效率和正确率⾃定义⾃定义⾃定义 Rareness 稀缺性 Inimitability 难模仿 •⾃定义并持续更新独特的知识库•⾃定义 AI 模型和模型组合⾃定义⾃定义 •⾃定义AI 深度整合到团队的平台和⼯作流程中•⾃定义数据⻜轮,持续SFT⾃定义⾃定义 通过⾃定义,探寻到最适合⾃⼰团队价值观的,专业领域的,管理⽅式的 AI 协作⽅式未来基于Fibona AI的腾讯云可观测平台RUM1. 提示词和知识库当然都是可以⾃定义2. 联动内部平台的能⼒也是可以⾃定义 最后,Fibona 为什么叫 Fibona?为什么是浏览器插件? 浏览器插件能带着⽤户权限,⽣成的数据去到每个平台