腾讯大模型技术进展及能源落地场景

——腾讯大模型技术进展及能源落地场景 2024年6月 AIGC技术发展趋势1 目录 腾讯全面拥抱大模型2 行业大模型应用落地3 大模型加速人工智能技术迈向“大一统” •以Transformer架构为基础的大模型技术取得了重大突破，AIGC技术引领产业创新 •底层算法走向统一使得人工智能平台化成为可能，基础模型正在成为新的操作系统，创新不断提速 大模型 规模增大不能带来性能持续提升 传统AI 大模型技术演进助推新质生产力的提升 大模型应用开发平台主要创新方向是降低应用门槛，帮助开发者和企业快速搭建AI原生应用智能体应用范式已形成共识，Agent架构逐步清晰，整合搜索、记忆、控制和工具调用等能力，有望成为大模型主要应用形态 基础大模型：主要互联网厂商均已提供标准化套件服务，覆盖模型全生命周期AI Infra：大模型训练需要大量算力、网络、存储资源，支持国产化、异构算力调度 传统企业对大模型的关注重点逐步演变 从关注模型本身... 到关注模型业务场景应用 •更小的模型参数规模（百亿、十亿参数）•基于开源大模型结合业务场景数据的的精调SFT•大模型结合外部知识库的内容查找、增强搜索，以及外调接口能力•定制型的业务环节集成，结合智能体、外部工具等形式成为智能助手•应用架构面向目标，以AI为中心，人为辅助 •更大的模型参数规模（千亿、万亿参数）•大模型的构造、结构、训练参数、训练数据•大模型本身的交互能力、回复内容专业度•大模型多以体验式的文本对话形式应用•应用架构面向过程，以人为中心，AI为辅助 AIGC发展面临挑战 AIGC技术发展趋势1 目录 腾讯全面拥抱大模型2 行业大模型应用落地3 腾讯在AI大模型方向持续布局 腾讯云智能在计算机视觉、智能语音、自然语言处理、机器学习等领域已取得多项技术突破，持续推动前沿技术的产业落地。下设多个人工智能实验室。腾讯优图实验室多次在人工智能国际权威比赛中创造世界纪录，腾讯AILAB、微信智聆等团队协同深耕AI语音及语义能力，多次在国际国内比赛中拔得头筹。 双赛道冠亚军 四项国际第一 5000+项 图像匹配技术CVPR2021 ImageMatching Workshop 国际顶级图学习榜单OGB上，获得图属性预测赛道Ogbg-molhiv、Ogbg-molpcba等全部四项榜单第一 AI相关专利 全球第一 冠军及最佳创新奖 神农”多语言预训练模型获得国际权威榜单XTREME总榜及全赛道全球第一 ICCV2021 LVIS Challenge Workshop 800+篇 Text2SQL榜单第一CoSQL、Sparc数据集荣登Text2SQL榜单第一 中英新闻翻译第一WMT 2021中英文新闻翻译评测 论文入选IJCA/CVPR/ICASSP/ACL等全球顶会/期刊 腾讯混元大模型成果 •提供不同尺寸的选项，覆盖不同场景，提供针对业务应用落地的最优性价比的推理解决方案•突破模型规模和性能天花板，寻求兼顾模型能力和资源利用效率的更佳方案 模型体系 包含全尺寸多个版本腾讯混元通过采用混合专家模型(MoE)结构， 已将模型扩展至万亿级参数规模，推动了性能提升和推理成本下降。在中文表现尤其是文本生成、数理逻辑和多轮对话上性能表现卓越，整体处于业界领先水平 模型覆盖多个领域 解决多领域任务 数学、编程、网络安全和搜索等，去适配各特定场景的需求，并结合垂直领域的数据，完成领域专属模型的落地 冷启动全链路自研究 数据、模型、策略和架构 从训练数据、模型架构、训练策略，训练框架，软硬件体系等多个方面切入，提出了有特色的自研方案，从零开始训练 混元大模型安全解决方案 围绕大模型的生命周期，根据不同阶段的风险制定对应安全防护措施，全方位保障大模型数据和应用的安全。 混元已接入600+腾讯内部业务，实现技术与应用同行 大模型助力腾讯内部降本增效 腾讯会议AI小助手，会中问答、会议摘要、会议待办项尽在掌握 助力打造AI小助手，会中问答、会议摘要、会议待办项尽在掌握 腾讯文档智能助手，加速文档创作效率 大模型加持提升目标 •文本创作 遵循用户指令，进行各种场景的文本创作 •文本编辑 对已有内容进行续写、润色、校阅、翻译和总结 •表格公式生成 支持自然语言生成250+内置函数 搜狗输入法智能助手-AI旺仔、AI帮写让大模型辅助书写 企业一线员工往往存在大量写作诉求，包含工作记录、会议纪要、工作规划、工作总结、合同等。输入法结合大模型，可在腾讯文档、WPS文档、Word文档等多个应用内快速生成写作内容。 智能纠错：自动识别写作文档中错别字，并提示纠错。 主题写作：对话形式发送写作指令零门槛使用，使用自然语言发送指令，无需复杂配置深度理解意图。 文本润色：短语润色、句子改写与扩写，使整个句子表达更加精准生动 腾讯AI代码助手打造研发流程新模式 开发专家 过滤 技术对话 Chain Embedding Prompt 对话模型 对话平台 数据分析场景-通过自然语言分析数据 腾讯乐享知识助手-更成熟的智能问答、更高效的课堂体验 营销创意场景-1分钟生成，随时修改，捕捉每一个创意瞬间 混元DiT，业界首个中文原生的DiT架构文生图开源模型，支持中英双语输入及理解，拥有15亿参数，为中文AI创作开启了全新纪元 客服场景—提高员工30%工作效率 一项研究表明：员工每天要花2.5小时回答蠢问题！ 资料阅读场景-从头到尾读vs问关心的问题 广告场景——大模型助力腾讯广告业务增长23%毛利增长47% AIGC技术发展趋势1 目录 腾讯全面拥抱大模型2 行业大模型应用落地3 腾讯提供一站式大模型工具箱，助力企业管理、服务、生产效能提升 大模型知识引擎，下一代的企业知识管理工具 覆盖大模型开发各种知识应用的常见模式、工具、流程，弥补大模型到应用构建间的缺口 更易用的工具链：接入门槛低、配置工具完善 开放模型配置、知识配置等配套工具链，提供最小的必要输入即可获得最佳效果，支持测试-修正-发布-反馈增强的一站式流程 腾讯已联合行业伙伴发布50+行业大模型应用 2023.6.19腾讯云行业大模型及智能应用技术峰会，发布大模型知识引擎产品，基于行业大模型，打造新一代智能客服产品2023.9.07腾讯数字生态大会，大模型知识引擎产品进一步升级，在管理端、用户端、坐席端全面提升体验截止目前，大模型知识引擎产品，已在50+个行业应用落地，客户数增长300% 行业应用 管理端 产品升级亮点 冷启动速度从周级别到分钟级，对话构建成本大幅下降 拓展智能化场景，智能辅助提升服务效率与质量 打造电力员工数字助理群组，提升电网业务数智化水平 客户侧 解 决 客 户 日 常 用 电 相 关 问 题 业务人员侧 共创能源行业AI人才培养 AI人才培养 前沿创新 腾讯在大模型领域的能力总结 4 2 1 3 完善的平台工具 高质量通用大模型 成熟的落地方案 全面的配套服务 基于腾讯云深耕产业互联网的经验，针对不同行业打造高质量的行业大模型 腾讯TI平台可提供标注-训练-评测的全套能力，同时具备强大的多机多卡训练加速能力；客户可快速在平台上进行一站式的大模型精调 沉淀从业务分析-数据分析-数据清洗-数据标注-大模型选择-训练加速-模型评测-应用落地一体化的完整方法论，保障客户需求的顺利交付 提供专业的咨询服务、本地化的训练、落地及陪跑优化服务，为客户扫清落地障碍 感谢聆听