- 核心观点:KimiK3发布,再次刷新开源模型上限,整体智能水平仅次于Claude5.5和GPT-5.6Sol,在开源模型中参数规模最大,技术架构持续创新。
- 关键数据:
- 参数规模:2.8万亿,是目前开源模型中最大的。
- 上下文支持:支持100万Token。
- 能力表现:
- 整体智能水平:仅次于Claude5.5和GPT-5.6Sol。
- 重点方向:Coding能力突出,尤其在长时程软件工程任务上进展较大。
- 进步速度:各项分数进步迅速,进一步缩小了与海外领先模型的差距。
- 技术架构:
- 基于KDA(线性注意力)和AttentionResiduals(残差优化、训练稳定)。
- 这两项技术均来自Kimi过去的技术更新,表明大模型迭代需要长期、连续的技术积累。
- 多模态能力:具备原生多模态理解能力。