东吴传媒解读Kimi K3开源大模型：核心技术、性能与行业趋势

一、核心要点 1. 基本产品属性：2026年7月28日东吴传媒互联网海外科技张良卫团队解读Kimi K3技术报告，Kimi K3是目前开源的最大类MoE模型，总参数量2.78T，每次推理激活104B参数，拥有1M上下文窗口，为原生多模态开源模型，全量开源性价比高，定位仅次于闭源最强的GPT5.6 So与Falcon 5，稳定领先其余在售开源模型，是开源模型新基线，2.8万亿token预训练，原生视觉多模态能力覆盖游戏开发（含3A级别游戏脚本）、高契合度视频剪辑，结合Agent能力实现帧与音乐节拍适配，部分性能超GPT-5.5等闭源模型，第三方评测显示在WebDev等维度超越闭源模型，对成本敏感用户友好。 2. 关键技术设计：采用自研KDA注意力机制与MLA混合（3:1比例），计算量随token量线性增长；896个专家模型，每次推理激活16个，搭配负载均衡机制解决专家利用率不均问题；原生多模态内置MoonViT V2视觉分支，与模型联合训练而非外挂；采用残差连接、稳定隐空间MoE设计，规避RoPE编码缺陷，训练上下文从128K扩展至1M，训练/推理效率较K2提升2.5倍；自主构建训练评测集，自研算子如Flash KDA等提升模型训练/推理效率与显卡利用率，自研MiniTriton编译器几何均值超Torch；采用RL训练、9专家在线策略蒸馏（OPD算法），设计90%任务完成即迭代的Partial Rollout抗长尾机制、思考预算分配与防奖励机制，构建白盒可验证的智能体训练环境，自研KDA自注意力算法与前缀缓存等技术降低推理成本，同等性能下成本降为K2的1/2.5；预训练采用渐进式上下文扩展，从8K逐步到1M，加入长城任务数据治理，后训练为三阶段范式，含SFT冷启动、人工标注数据训练，针对编码等任务用可验证奖励与反奖励作弊机制强化能力。 3. 竞品对比与行业趋势：性能高于DeepSeek约20%-30%，成本比DeepSeek高1-2倍；在通用GPU基础设施建设上已接近DeepSeek，DeepSeek仍在专用GPU芯片研发上有底层优势；国内大模型团队均重视算力基础设施建设，AI Coding降低基建工程难度，未来通用GPU基建差距将收窄，专用计算芯片研发或成新壁垒。 二、风险与关注 1. 模型存在短板：在工具使用指令遵循、多角色协作、24小时全天候在线等维度仍落后于领跑模型，Kimi团队已客观公开短板，研发方向聚焦减少人类干预的自进化能力。三、投资线索 1. 大模型赛道中，算力基础设施建设的通用性能力、自研技术与成本控制能力相关企业或领域具备关注价值，国内大模型团队对基建投入的重视也隐含相关产业机会。