您的浏览器禁用了JavaScript(一种计算机语言,用以实现您与网页的交互),请解除该禁用,或者联系我们。[未知机构]:微信元宝与Deepseek微信接入DeepSeek模型 - 发现报告

微信元宝与Deepseek微信接入DeepSeek模型

2025-02-24未知机构邓***
AI智能总结
查看更多
微信元宝与Deepseek微信接入DeepSeek模型

模型后,相应推理算力需求:。 目前在灰度测试阶段已观察到显著增长趋势,当前预计在下半年全量开放后日均请求量将达到10亿次,并发峰值可能达到百万级别。 同时据测算,为支撑如此规模,需要数千张GPU卡(H20和H100混搭)。 。 为优化资源利用率 微信元宝与Deepseek•微信接入DeepSeek 模型后,相应推理算力需求:。 目前在灰度测试阶段已观察到显著增长趋势,当前预计在下半年全量开放后日均请求量将达到10亿次,并发峰值可能达到百万级别。 同时据测算,为支撑如此规模,需要数千张GPU卡(H20和H100混搭)。 。 为优化资源利用率,将结合混元基础推理等策略,根据查询类型动态分配不同深度的推理路径,以降低整体负载。 比如在具体实现中,会先通过预处理判断查询类型,再决定调用哪种类型的推理路径。 例如,对于简单查,可采用混元基础准理以降低计算成本(相比DeepSeek满血版可节省30%推理算力需求):对于复杂查间,则调用深度推理路径(DeepSeek满血版)以确保结果质量。 这种动态分配机制旨在平衡性能与成本,同时提升整体系统效率。 。 元宝接入满血版DeepSeek模型后,其日活跃用户(DAU)仍维持在百万级别,相对较低。 同时,由于分配到的算力资源有限,其响应时间及每秒生成内容数量也不高,因此实际业务增量并不显著。 品牌热度虽有所提升,但未能转化为大规模用户增长。 此外,腾讯视频计划基于DeepSeek 开发新的应用场景,例如面试过程记录等功能;腾讯地图则希望通过集成大模型优化标注团队效率,实现降本,同时提升从路径规划等能力,以增强市场竞争力。 •腾讯2025年GPU扩充规划:。 预计2025年整体扩充GPU卡数量同比增长约30%。 其中NV系列仍占主导地位;国产芯片占比20%-30%,存在一定浮动空间。 然而,由于NV系列订货周期问题,该比例可能会动态调整以适应实际供需情况。 。 对于国产卡,目前正在测试寒武纪和沐曦两家公司的产品,其中沐曦C500表现较好,虽然耗电量相对NV卡较高,其供应链稳定且价格适中,比寒武纪更具成本优势。 。 其中与NV卡混合使用主要基于B端客户多样化需求。 一些客户需要使用NV系列卡完成训练、微调或蒸馏任务,而其他场景可能采用寒武纪及910B等即可满足推理要求。 因此,为适应外部项目多样性,还是需要灵活配置不同类型硬件资源。 •腾讯云B端、C端总体日均模型调用量:。 2024年腾讯云整体日均调用峰值超过300亿次,其中统计数据主要来源于B端客户,即腾讯云上的企业用户,而且主要使用的是混元模型(三方开源模型调用量占比不超过5%),C端调用量暂无准确估计。 。 2025年的目标是日均调用量突破1000亿次(混元仍占主导地位,调用量占比预期超过70%,后续多模态模型的调用将成为主流),这一增长目标仍以B端客户为主导。 同时,为实现这一目标,今年新增了一些开源模型支持,例如此前在TI平台上提供的开源模型。 相应在DeepSeek模型上线后,其免费API吸引了大量用户。 例如,DeepSeek模型上线首周单日API调用量已突破10亿次。 但由于API的不稳定性,目前该数据有所下降。 此外,在DeepSeek模型上线后一周内,其算力销售额接近2000万元人民币,同时签约购买算力的KA客户数量已超过5000家,这种趋势表明DeepSeek对核心算力销 售具有显著推动作用。 •B端客户尝试使用DeepSeek模型的比例及反馈:。 当前已有超过50%的B端客户尝试接入或使用DeepSeek模型,其中大约20%的客户希望进行私有化部署,这些需求主要来自政府、金融等行业的大型KA客户,已经开始采用DeepSeek相关技术,并结合腾讯提供的平台(如TIMetrics)进行部署。 •腾讯与与DeepSeek建立了合作关系:。 目前尚未与DeepSeek建立正式合作关系,但内部对此持积极态度,并希望未来能够达成合作。 投资并购部门一直在关注DeepSeek的动态,当前行业内各家公司均在尝试与其接触,但由于存在一定竞争关系,尚未形成具体的合作模式。 。 据了解DeepSeek正在测试多模态模型,但关于具体发布时间和开源计划,目前没有确切信息。 •2025年腾讯云整体收入增长预期:。 2025年整体收入目标增长率为20%,主要驱动力来自B端业务,包括云计算算力支持,以及制造业和金融行业解决方案。 同时腾讯云已于2024年实现盈利,比如从2024年第二季度或第三季度开始进入盈利状态。 但全年盈利状态仍处于初步阶段,需要进一步观察具体财务表现。