AI智能总结
——数据智能融合,数字化转型新⽅向 腾讯云⼤数据产品架构师 ⽬录 1智能体应⽤开发挑战及场景需求融合平台需求背景2⼀站式融合平台落地路径融合平台关键能⼒3智能体应⽤案例智能应⽤案例介绍 融合平台需求背景 智能体应⽤开发挑战及场景需求 AI智能体在车企已经开始⼴泛应⽤ AI智能体在企业创新、员⼯提效等⽅⾯的核⼼优势,可助⼒车企在研、产、销、服等环节发挥重⼤作⽤,各车企均投⼊重点规划。并且在座舱、车机、销售、客服等场景已有较多落地案例。 常见的AI训练平台搭建架构 以主机⼚内部2个主要算法部门对模型使⽤诉求为例: •⾃动驾驶部门:会进⾏常规的模型开发调优,定期升级蔚来所有汽车的⾃动驾驶程序版本•营销及社区APP应⽤部门:在客户社区APP⾥,为客户群提供个性化服务,推⼴服务与产品 IDC⾥的模型训练迁移到云上⾃建平台进⾏训练 ⼤数据处理与IDC机器学习架构 实验管理模型训练和调优模型管理资源弹性需求成本与效率要求主流开源框架⽀持 • ⾯临挑战: •⾮⼀体化平台,需要多平台使⽤•数据准备与模型训练资源独⽴•效率低,弹性差 常见的AI训练平台搭建架构 营销平台GenAI任务:“⾃动发送⼀条包含上海最畅销饼⼲及其最佳搭配商品图⽂的朋友圈(包括图⽚和宣传语),以提⾼销量” 现有平台所遇到的挑战 ⼤数据与AI⼀体化是客户当下关键需求,也是业界重要发展⽅向,根据Gartner数据整个⾏业具备4倍的增长空间 客户需求1 现有⽅案遇到的挑战2 业界领先⽅案3 ⼤数据链路与AI融合的⼀体化平台⼤幅简化AI应⽤落地成本与复杂性 业界趋势:云⼚商与头部⼤数据独⽴⼚商持续投⼊⼤数据+AI⼀体化 ⼤数据与AI架构分离,两套开发体系需要分别编排与维护,数据需要多次导⼊导出 诉求1:⼀体化操作提升便利性•AI Bigdata⼀体化平台,⽀持端到端样本 清洗、存储、数据分析、ML训练、推理服务 •降低架构复杂性和运维难度 根据Gartner数据,⼤数据+AI融合是未来的主要⽅向,预期具有较⼤的增长空间 ⾏业趋势预测 •国内⼤数据市场(224亿⼈民币),客户AI需求市场容量[28亿⼈民币],⼤数据:AI为8:1的⽐例,每百万⼤数据投⼊理应带动12.5万AI投⼊ ⽤户所期望的:⼀体化的DataOps + MLOps 体验 ⼀体化智能平台,是需要深度融合数据全⽣命周期管理与AI开发能⼒。平台覆盖数据集成、开发、治理、模型训练及智能应⽤构建全链路,通过⼀体化架构打破数据孤岛,推动数据治理与模型开发的融合创新,为数字化转型提供从基础到前沿的智能⽣产⼒⼯具。 2融合平台关键能⼒⼀站式融合平台落地路径 核⼼增强点:统⼀资源调度框架 1 3 1.RayonTKE GPU 2. 核⼼增强点:统⼀资源调度框架——全托管Ray •• • • 关键能⼒2:One Env + One Workflow + One Data ⼀体化平台 核⼼增强点:⼀站式的DataOps + MLOps 开发⼯具 核⼼增强点:统⼀的数据⽬录服务 统⼀Catalog服务(TC-Catalog)是新⼀代的多态统⼀元数据管理平台,提供覆盖传统结构化数据、半/⾮结构化数据(⽂本/⾳频/视频等)和AI模型的统⼀元数据管理服务,并具备完整的统⼀权限管理功能 关键能⼒3:⼀站式⼤模型+RAG应⽤ 1 QPS LLMAI