腾讯大模型发展与应用
一、混元大模型能力概述
混元大模型围绕需求持续迭代,实现了能力全面突破和应用广泛落地。
发展历程
- 2020-2022年:推出百亿/千亿广告推荐大模型。
- 2023年2月:启动混元生成式大模型研发。
- 2021-2022年:发布万亿混元NLP大模型,登顶各大权威榜单。
- 2023年5月:广告、会议、文档等头部业务接入混元初代大语言模型。
- 2024年1月:混元升级高性能MOE模型,突破规模和性能的天花板。
- 2024年11月:开源Hunyuan-large模型,业界参数规模最大、效果最好的开源MoE大语言模型。
- 2023年9月:混元大模型对外发布,面向业务全面开放。
- 2024年9月:发布混元新一代旗舰大语言模型turbo,效率大幅提升,成本大幅下降。
- 2024年5月:开源业界首个中文DIT文生图模型。
- 2024年5月30日:混元全面加持的原生大模型产品腾讯元宝发布。
- 2024年6月:混元多模态MOE模型发布。
- 2024年12月:开源Hunyuan-Video模型,业内最大最强大的开源视频模型。
技术架构
- 全链路自研:模型算法、平台和算力集群均自主研发。
- 模型算法框架平台:自主研发Angel机器学习平台。
- 算力集群:自主研发GPULAGPULA、SGLCSGLC等算力集群,支持单集群10万卡规模。
- 突破:
- 星脉高速网络:自研硬件和路由算法,成本比国外IB网络下降70%,单节点带宽提升30%。
- Angel大模型训练和推理平台:高效调度异构卡集群,性能比微软开源DeepSpeed提升2.6倍,推理成本比开源下降70%。
模型能力
- 感知能力:混元多模态理解模型,支持单图、最大7K分辨率,支持多图&视频生文。
- 思考能力:混元文生文模型,支持长窗口、长文理解&记忆、意图识别、知识增强、文本创作、AI搜索等。
- 创造能力:
- 混元文生图模型:Dit架构,具备Scaleup能力,双向注意力Refiner,16通道编码隐空间。
- 混元文生视频模型:全面升级写实画质、语义遵从、动态流畅、原生转场。
- 混元文生3D模型:已建设AI 3D功能18项,生成速度30s内,生成质量位于业界第一梯队。
- 能力全面突破:各模态模型稳居第一梯队,SuperCLUE-V基准8月榜单国内大模型排名第一。
开源贡献
- 开源Hunyuan-Video、Hunyuan-3D、Hunyuan-Large、Hunyuan-DiT等模型,推动行业生态发展。
二、混元大模型实践与应用
混元大模型已接入700+业务场景,用大模型助力产业创新。
业务提效
- AI广告:助力腾讯广告多场景提效,提升广告转化率。
- IDE编程场景:工蜂Copilot,支持代码补全、代码Chat等。
- 智能客服:客服助手支持多轮对话,总量已切换52.97%已接业务。
- AI阅读:QQ网页阅读助手、微信读书AI问书功能,提升阅读体验。
- AI写作:AI帮写覆盖21个写作场景,支持搜索增强的写作能力。
- AI智能体:腾讯视频IP角色对话,打造影视剧交互新玩法。
- AI搜索:大模型加持问答体验,满足模糊搜索、复杂推理等需求。
三、混元大模型生态及社会价值探索
混元大模型通过腾讯云对外输出能力,共建多通路多场景的外部产品运营活动。
生态建设
- 与中国信息通信技术研究院(CAICT)合作,混元模型在“模型开发”和“模型能力”两项评估中获最高分。
- 联合产学研界助力国家人工智能发展和重大产业应用,发布《行业大模型标准体系及能力架构研究报告》等。
- 积极参与人工智能产业联盟(AIIA)和中国通信标准协会(CCSA),领导制定多项人工智能标准。
- 腾讯混元大模型首批通过《生成式人工智能服务管理暂行办法》网信备案,率先通过国家大模型的系列标准测试。
应用案例
- SSV探元计划:探元小程序中文物的AI解说词TTS自动朗读。
- SSV青少年心理健康应用:情感陪伴类智能体,面向C端用户与北师大心理学部共建心理/情感类知识体系。
- 媒体深入应用:混元自动生成多类型传媒内容,如人民日报宣传片。