读 2026年07月21日20:33 关键词 大模型 参数量 开源模型 闭源模型 智能密度 价格机制 单位成本 上下文窗口 自我训练 竞争压力 旗舰模型 性价比 产业内 智能水平K3综合能力 软件工程 微电子 长上下文PDA 全文摘要 最近,AI领域的一大亮点是K3模型的发布,这款拥有2.8万亿参数的模型显著提升了AI性能,展现了增强的与外界交互能力。讨论集中在开源与闭源模型的竞争,以及算力需求的持续增长如何影响行业。高参数量模型提升了硬件门槛,促使算力需求向云端集中,对云服务提供商构成利好。对应用侧而言,单位智能密度的提升对成本有重要影响,可能对政企客户和开源模型用户产生显著效果。展望未来,关注点在于AI应用领域的发展,以及算力需求和硬件部署的进一步变化。 章节速览 l00:00大模型参数量提升与产业链影响分析 对话围绕大模型参数量的提升及其对产业链的影响展开,指出P1K3模型发布2.8万亿参数带来性能大幅提升,强调模型发展未结束,需更多数据与AI交互环境优化,同时提及产业链上下游的连锁反应及法律合规重要性。 l02:11开源模型参数量激增,国产模型追赶海外顶尖 讨论了开源模型参数量的激增趋势,尤其是国产模型从万亿级向两三万亿级迈进,与海外顶尖模型在参数量上的差距。K3的发布和千万3.8的预览版,以及质朴5.2的后续版本计划,均体现了参数量提升的确定性趋势。尽管如此,国产模型与海外如Offer 4.6、飞博5及GPT5.6等顶尖模型在参数量上仍存在差距。 l05:03闭源模型与地缘竞争:股价压力与系统性优势 讨论了闭源模型面临股价压力的原因,包括模型竞争加剧与成本问题。指出地缘模型短期内受竞争压力,但中长期系统性优势犹存,核心在于其产品力与迭代能力。海外企业AI需求转向token优化,可能影响地缘模型地位,但短期内K3难以颠覆其优势。 l08:41大模型竞争与算力、应用影响分析 对话讨论了大模型的单位成本和智能密度对市场竞争的影响,指出开源模型与垂直一体化巨头的竞争格局强调了算力需求增长及对云厂商的利好,同时分析了模型竞争加剧对应用厂商的利好,以及投资策略倾向于已脱颖而出的公司。 l12:24模型迭代与智能升级:行业趋势与挑战 对话讨论了模型迭代效率与智能升级的重要性,强调了高质量数据、预训练流程优化及自我训练在提升模型性能中的作用。展望未来,持续的参数量增长、环境强化学习和推理能力提升仍是关键方向。模型厂商的内部员工面临因技术进步导致的工作转型挑战,自我训练成为提高迭代速度的核心策略之一。 l15:04大模型性能与成本对比分析 对话深入探讨了多个大模型在参数量、价格、综合智能水平及特定任务表现上的对比。K3、质谱和5.6等模型在不同领域展现出各自的竞争力,如K3在科技工程任务上的优势,质谱在长城任务上的性价比,以及 5.6在多方向能力上的均衡与强大。价格方面,K3和5.6的中档版本价格相近,但K3在实际任务中可能因效率较低而成本更高。整体上,各模型在特定应用场景下均展现出显著优势,为后续优化和选择提供了参考。 l20:16 K3设备UI设计领先,但价格与性能需优化 对话讨论了K3设备的UI设计被高度评价,认为其审美和工程级应用在全球领先,但同时也指出了价格高于预期、推理速度慢和工程稳定性不足的问题,表明在性价比和实际应用能力上还有待提升。 l22:00 KE核心机制:PDA与注意力残差解析 对话深入探讨了KE的两大核心技术:PDA混合线性注意力机制和注意力残差。PDA通过压缩历史信息于可更新状态中,解决长上下文计算难题,降低处理压力,提升输出效率,尤其在长文本处理上表现优异。注意力残差则聚焦于模型深度问题,通过选择性回取早期层的有用信息,优化信息传递路径,提升深度模型的推理效率。两者共同推动KE性能显著提升,为处理大规模参数和高效推理提供支持。 l28:49大模型K3引发的硬件门槛提升及通信压力分析 讨论了K3模型因超大规模参数导致的硬件门槛显著提升,包括对HBM、DDR5内存和固态硬盘的同步需求增加,以及64颗芯片大规模扩展域的部署需求。此外,模型中896个专家的分散部署虽提升了算力利用率,但带来了120次以上的专家分发和合并操作,加剧了GPU间通信压力。最后,长上下文长度的增加和应用场景的渗透预示着未来算力消耗量的上升趋势,尤其是企业级市场的加速发展。 l35:04云厂商受益于AI模型部署门槛与需求增长 对话讨论了云厂商因AI模型高参数量导致的硬件门槛,促使需求向云端集中,以及模型能力提升带来的API收入增长。此外,政企私有化部署需求、开源生态客户粘性提升、推理效率提高对算力消耗的影响,共同促进了云厂商的盈利质量改善。 l37:39 AI应用企业业绩超预期,算力与低位软件行情观察 讨论了AI应用企业在七月份以来的市场表现,重点关注了算力震荡及低位软件和游戏板块的跷跷板行情。分析了一家AI应用公司的中报业绩预告,指出其收入和利润均大幅增长,特别是利润超出预期,主要归因于按token消耗量计费的高毛利率业务模式,以及销售和管理费用率的下降。公司股价在业绩公布后显著上涨。 l41:38 AI应用与算力需求增长趋势分析 讨论了AI应用领域中业绩良好标的的关注度提升,以及未来可能迎来的大贝塔转变。分析了中控、网安公司及算力相关企业如红警、亿通等的业绩与市场表现,强调了算力需求增长对行业的影响,建议关注头部企业动态。 问答回顾 发言人 问:K3发布对大模型性能产生了怎样的影响? 发言人答:K3发布的2.8万亿参数版本带来了显著的性能提升,这表明大模型的制定论仍在不断推进,无论是在参数量、数据质量还是AI与外界交互环境等方面都有所加强。 发言人 问:K3发布后,开源模型将面临什么样的挑战和趋势? 发言人答:K3发布后,对于其他开源模型来说,竞争加剧是必然趋势。同时,国产开源模型的参数量大幅提升,如质朴5.2版本已达到约12.4万亿参数,且预计下一代基于全新架构的模型参数量将远超GLM5,可能达到更大的规模。未来国产模型参数量将基本保持在两三万亿级别。 发言人 问:对于闭源模型,尤其是质朴模型,K3的影响是什么?K3对于海外顶尖模型的长期竞争态 势如何看待? 发言人答:质朴模型受到K3一定的竞争压力,股价有所反应,但实际影响可能不如股价表现强烈。此外,海外市场对质朴模型的地缘压力增加,随着K3的竞争力提升,海外闭源模型市场份额可能会受到一定冲击。短期内,由于质朴模型的价格机制压力,海外顶尖模型可能会受到一定影响,但中长期来看,由于其整体产品力、持续迭代能力和系统性优势,海外闭源顶尖模型仍具竞争力。不过,未来若质朴模型能够推出更先进的chairpoint,竞争差距可能会拉大。 发言人 问:当前市场对于大模型产品的评价如何? 发言人答:根据测评反馈,大模型产品表现出色,但价格较高。为了长期胜出,厂商必须具备高智能密度和较低单位成本,这意味着性价比最高的厂商将最终胜出。 发言人 问:对于海外的旗舰模型,真正可能产生实质性冲击的因素是什么? 发言人答:如果出现一个新一代的开源旗舰模型,其智能水平接近甚至超越闭源顶尖模型,并且价格较低、效能较高,那么这将对现有模型产生重大影响。 发言人 问:开源模型对算力和应用的影响有哪些? 发言人答:算力需求将持续增长,因为训练算力的需求未结束;模型参数规模持续扩大,对集群通信等要求提高;K3开放将利好云厂商。在应用方面,开源模型崛起将加剧模型厂商间的竞争,单位智能推理成本将持续下降,对下游应用厂商总体上是有利的。 发言人 问:质谱模型5.3版本的核心改进点是什么? 发言人答:质谱5.3版本通过改进预训练流程、使用更高质量的数据、强化非线性强化学习以及优化一照上下文工程,这些方法已被市场验证并广泛应用。 发言人 问:模型厂商自我训练能力的重要性体现在哪里? 发言人答:模型厂商的自我训练能力越强,其模型自我迭代的速度就越快,这是领先厂商的先发优势和飞轮效应之一。例如,安装点或OK等公司由于强大的模型自迭代能力,在发展过程中具有较高的效率。 发言人 问:K3与质谱5.6版本的价格对比如何? 发言人答:K3的价格为15美金,而质谱5.6版本的中档版本价格也较为接近。虽然K3在参数量和token使用效率上可能有所不足,但在实际应用中花费可能会更多。 发言人 问:综合智能水平方面,K3与其他模型相比处于什么位置? 发言人答:综合智能水平上,B5、G5.6等模型属于第一梯队,它们之间的差距较小,而K3综合智能水平略低于前三个模型,但在coding和A上表现更强。 发言人 问:在科技软件工程领域,K3和GPT5.6相比,它们的竞争力如何? 发言人答:K3在长周期工程任务中的竞争力很强,尤其在性价比上表现更高,而GPT5.6则在各方面能力更为均衡且强大。在特定的高价值任务中,C和GPT5.6更适合,而K3在大型执行上的进步非常显著,相较于之前的K2.6版本有非同寻常的提升。 发言人 问:K3在哪些方面受到了好评? 发言人答:K3受到好评的主要包括其规划能力接近于被迫系列、工具调用稳定性明显提高、多轮任务连续执行成功率高以及长流程自动化能力优于多数国产模型。此外,K3的前端开发和UI设计表现优秀,审美和网页生成质量被评价为全球第一梯队,并且整体科技能力随着参数规模扩大而得到明显提升。 发言人 问:K3存在哪些负面评论? 发言人答:负面评论主要集中在价格较高、推理速度较慢以及工程稳定性有待提高上。尽管它在大型软件 工程中的运用能力还有待验证,但这些负面成分更多地集中在推理效率和性价比方面。 发言人 问:K3的核心机制PDA是什么,它解决了什么问题?K3的另一核心机制KBA是如何工作的?发言人答:PDA(混合线性注意力机制)是K3自研的核心技术架构之一,用于解决长上下文处理时注意力计算难题和抵扣阶段偏差问题。通过引入delta误差校正机制,PDA能够在保留关键信息的同时降低计算压力,提升编码输出效果,并使长文本和长代码仓库处理更加可行,从而同时提高大模型参数规模和推理效率。KBA机制同样致力于解决长文本处理问题,但它关注的是模型深度上的信息传递效率。不同于传统的注意力机制,KBA不保留每个历史信息的完整KV值,而是将其压缩在一个可更新的状态里,并通过引入误差校正项,在每次处理新信息时检查并修正记忆状态,以此来优化信息的传递和利用。 发言人 问:深度学习模型中信息传递效果为何会变差? 发言人答:在深度学习模型中,信息是按层顺序积累的。随着模型层次加深,早期层的有用表示可能会被后续层中的信息稀释或覆盖,导致信息传递效果变差。 发言人 问:注意力机制如何解决深度方向的信息通路问题?注意力残差如何提高推理效率?发言人答:注意力机制的核心在于允许模型选择性地回溯并重新获取之前早层数的有用表示,从而改善深度方向的信息通路,确保重要信息不会被丢失。注意力残差技术通过改善深度方向的信息通路,确保每次获取不同层的流动信息时,能够有效利用并恢复先前层中被稀释的有用信息,从而提升推理效率。 发言人 问:K3模型在硬件门槛上面临什么挑战?大规模扩展域对K3模型部署的影响是什么?发言人答:K3模型因其拥有2.8万亿参数,其模型权重超过1.5TB,对硬件有极高要求,不仅需要大型服务器(如K3)的支持,还对HBM、DRAM以及固态硬盘的容量和带宽提出了同步增加的需求。官方表示高效推理部署至少需要64颗芯片组成大规模扩展域,这大幅提高了模型部署的门槛,尤其是对于云厂商而言,意味着他们可以提供更高性能的服务,但也需应对高昂的成本和技术挑战。 发言人 问:K3模型中的专家机制及其通信压力如何? 发言人答:K3模型采用896个专家并分散部署以提升显存和算力利用率,但每次前向计算时需执行120次以上的专家分发和合并操作,这带来了巨大的卡与卡之间通信压力以及频繁的权重交换,实际上可能抵消了节省的内存开销。 发言人 问:大