月之暗面推出的KimiK3是全球首个开源的3万亿参数模型,具备以下核心特性与优势:
-
技术架构与创新
- 参数规模:2.8万亿参数,开源架构。
- 核心机制:采用KDA混合线性注意力机制与注意力残差技术,解决长序列信息流动问题。
- 性能提升:MoE稀疏度优化使算力转化效率比K2提升2.5倍,支持100万Token上下文窗口及原生视觉理解能力。
-
核心优势场景
- 长程编程:极少人工监督下可完成长时间工程任务,理解处理大型代码库,并协调终端工具,结合视觉推理能力表现突出。
- 端到端知识工作:支持复杂任务全流程处理。
- 复杂推理:擅长多层级逻辑推理。
-
研究结论
KimiK3在编程能力上达到顶尖闭源模型的水平,尤其在长程任务与视觉交互场景中具备显著竞争力,推动开源大模型在工程与知识工作领域的应用边界。