模型大厂专家交流-20260710

专家：现在国内几乎所有模型厂商都普遍面临算力短缺的问题，哪怕是腾讯、阿里这类大型企业也不例外。虽然目前市场上能拿到一定量的B系列芯片，但H系列芯片供应仍非常紧张，目前还有数十万张H系列芯片滞留在海关，没能进入国内。 专家：根据智谱的测算，从投资回报率看，国产推理算力的效率大概只有H系列芯片的三分之一，经济性比较差，因此哪怕有政策补贴，智谱也没办法全面、大规模用国产算力完成替代，推进难度很大。目前智谱已经和昇腾、摩尔线程、沐曦、平头哥等国产芯片厂商开展了适配测试和落地尝试。在编码、部分视频生成推理这类特定场景中，国产算力已经可以投入使用；但如果要在大规模集群上应用，国产算力目前还是比较吃力。 问：在模型训练和推理两个环节中，哪一个环节的国产化替代难度更大？ 专家：目前来看，训练环节的国产化替代难度更大。国内所有模型公司在训练环节基本都依赖英伟达芯片。这主要是因为训练过程对准确性等各方面要求极高，时间窗口也至关重要，使用其他方案可能会耽误研发进程，对公司的生存构成威胁。因此，为保证效率和结果，英伟达芯片仍是首选。 专家：不过，在训练流程中一些相对明确、简单的环节，例如部分数据处理工作，已经开始尝试使用国产算力。至于市场上关于DeepSeek与华为合作进行训练的说法，专家认为其真实效果和可行性仍有待进一步验证，实现难度依然很大。 问：如何看待近期Anthropic的ARR增长斜率有所下滑？ 专家：这一现象可以从三个方面理解。首先，第一波由coding驱动的增长热潮需要时间消化。短期内，程序员用户基数有限，无论是国内科技公司还是传统企业的数字化人员，其容量在短期内都已接近饱和。要实现第二波增长，需要进一步构建生态和用户习惯，吸引更多从业者加入。 专家：其次，市场竞争加剧，用户选择增多。一部分用户坚持使用能力更强的海外模型，另一部分注重性价比的用户可能会流向更便宜的替代品，例如GPT-3.5-turbo或Kimi的2.6、2.7版本。 专家：最后，整个软件行业正处于适应和消化期。软件外包公司面临商业模式冲击，由于客户普遍知晓其使用大模型辅助编程，原先例如2,000元/人天的报价被迫降至1,000元甚至800元。这使得这些公司在如何利用模型提升效率的同时，保持商业模式不被大幅冲击方面感到困惑，整个行业需要时间寻找新的平衡点。 问：Anthropic的ARR增长放缓是否与其算力紧缺有关？ 专家：算力紧缺是原因之一。无论是提价还是采取相对保守的市场策略，背后都有算力供给的考量。为了避免因用户量激增导致服务响应缓慢、体验下降，从而造成用户流失，公司必须在并发处理能力和整体服务质量之间取得平衡。因此，ARR增长斜率下滑，是市场短期需求回稳、行业竞争加剧以及供给侧算力平衡等多重因素共同作用的结果。 问：目前AIcoding在程序员群体中的渗透率大概达到什么水平？ 专家：虽然没有全局的确切数据，但根据观察和与一线程序员的交流，渗透率已经非常高。在程序员圈子中，不使用AIcoding工具甚至会被戏称为“古法编程”。据估计，目前渗透率至少在60%至70%之间，甚至可能已经超过70%。 问：AI编程的深层意义是否超越了单纯的编程自动化，而是将各类人力执行任务“编程化”，利用代码作为通用语言执行任何任务，从而形成一种Agent形态？其渗透路径是否会从程序员扩展到广泛白领，再到社会中的长尾需求？ 专家：这种观点值得认可。AI编程极大降低了产品开发和创新门槛。过去，一个有创意的产品经理或营销专家必须找到技术能力很强的CTO，才能将想法落地；现在借助强大的AI编程工具，他们可以更便捷地实现自己的构想。 专家：这不仅是生产力的巨大转变，更是工作模式和创新模式的跃升。它预示着市场体量将远超当前仅基于程序员数量的测算，不会局限于2030年2,000亿美元的规模。其影响将是全方位的，不仅限于重复性的代码劳动，而是贯穿整个研发生产链路，包括界面设计、UI、产品闭环等。在新时代，利用大模型创造产品本身已非难事，真正的挑战在于如何让产品产生实际价值并成功推向市场、被用户接受。 问：此前对AI编程市场空间的测算，主要依据是什么？ 专家：该测算逻辑相对直接，主要基于全球程序员数量。其计算方式大致为：全球程序员总数乘以每位程序员在AI编程工具上的人均花费。例如，根据观察，目前一位程序员每月可能在token上花费3,000元，从而实现3到5倍的效率提升。市场空间估算就是将全球程序员基数与这类人均消费数据相乘得出。 问：如何看待Anthropic指控阿里巴巴等国内模型公司通过“蒸馏”其模型进行训练？ 专家：在当前阶段，模型训练的核心瓶颈之一在于数据。Anthropic能够获取更多数据源，包括全球范围内的英文语料和海外高校数据，而国内模型公司在这方面能力有限或受到限制。从这个角度看，蒸馏行为可以被视为一种获取知识的捷径。事实上，模型间的相互学习在行业内并不罕见，Anthropic自身也曾被指出借鉴过其他模型。 问：国内外大模型在数据层面存在哪些差异？具体到国内市场，智谱AI在语料数据丰富度方面是否具备明显优势？ 专家：国内外大模型在数据层面的差异是存在的。具体到智谱AI，其核心优势之一在于数据资源，这主要得益于源自清华大学KEG实验室的背景。智谱AI拥有并可商业化销售一些独特的数据集，例如学术论文、高校资料乃至心理学等领域的专业数据，这些构成了差异化基础。 专家：不过，从行业整体来看，当前各大模型的基础能力已达到相对较高水平，差异不大。不同公司根据商业策略，在模型训练上各有侧重，主要体现在Agent和Coding等方向。这些方向对模型大小和响应速度有不同要求，例如更大的模型通常在智能水平和编程能力上表现更优，但响应速度会较慢。因此，行业内出现了不同技术路线选择，例如一些公司推出轻量化的flash版本，而智谱AI则倾向于类似Anthropic的策略，认为应持续构建更大的模型，以实现智能水平的整体跃升，从而提升编程效果。 专家：此外，模型本身也分为文本模型和多模态模型，后者虽然基于前者训练，但在训练方向和所需数据上完全不同，涵盖语音、视频生成、视觉理解等多个领域。总的来说，企业会先确定商业策略，再制定相应产品策略，并据此进行数据准备和技术支撑。 问：智谱AI的核心竞争优势是什么，这种优势能否使其在激烈的市场竞争中保持领先？同时，公司存在哪些劣势或不足？ 专家：智谱AI的核心优势主要体现在人才储备上。其创始人唐杰博士亲自管理模型研发，并依托清华大学背景，公司能源源不断吸引顶尖人才，甚至设有博士后实习站。许多核心骨干科学家非常年轻，这种人才输送机制是其他公司难以复制的。同时，这些人才对创始团队有较强归属感，人员相对稳定，增加了被竞争对手挖角的难度，也带来一定成本优势。 专家：但智谱AI也存在明显劣势。首先，公司的商业化体系尚不完善，当前超过万亿的估值在去年同期是完全无法想象的。其次，公司的创新文化并非自下而上迸发式，更偏向于由顶层领导者设定方向、团队高效执行的模式，与字节跳动或DeepSeek的管理方式截然不同。 专家：综合来看，虽然其人才优势显著，但创新能否持续以及优势能否长期保持，目前尚无法明确判断。来自字节跳动等对手的追赶持续存在。短期来看，在一年内，智谱AI在Coding领域的能力预计仍将保持一定领先性，但长期格局尚不明朗。qq:390278005 问：展望未来一到两年，在Coding和Agent等领域，哪些国内公司最有可能超越智谱AI？ 专家：从目前来看，国内市场最核心的竞争对手主要集中在Kimi、DeepSeek和豆包这几家公司。虽然其他公司也在进行相关研发，但目前它们并非最主要的竞争者。 专家：大模型行业变化速度极快，能够准确预判一年的发展已属不易，展望两到三年的格局非常困难。回顾来看，OpenAI的GPT-3.5发布至今也仅两年多时间，行业已经发生翻天覆地的变化。因此，未来谁能成为第一，或者是否会形成多家并驾齐驱的局面，都存在很大的不确定性。 问：与国际领先水平相比，除了数据方面的差距，算力（AI芯片）的供应限制是否是导致国内落后的主要原因？国内企业是否能通过海外训练或租赁等渠道获得足够的B200、B300等高端芯片，从而弥补差距？ 专家：算力问题可以从两个层面分析。首先是供应层面，中美贸易摩擦确实带来了供应问题；其次是企业自身采购能力，无论是大型科技公司还是模型创业公司，其采购能力客观上不如海外同行。例如，国内投入最强的字节跳动，其投资规模与海外几家巨头相比也只是零头。因此，差距是存在的。 专家：尽管如此，国内目前通过一些技巧性方法，如微创新和模型蒸馏等，仍在紧跟追赶。当前中美的发展阶段不同：美国可能处于从90分向99分迈进的阶段，这需要付出巨大努力；而国内则更像是从70分追赶到90分的阶段，仍在紧咬不放。 专家：此外，国产芯片也在发展，例如平头哥、寒武纪、沐曦、壁仞等公司未来可能会提供更多支持。虽然目前国产芯片尚不能完全满足需求，但未来几年内有望追赶上来。 问：在AI人才方面，考虑到海外天价年薪，当前国际顶尖AI人才向国内回流的趋势如何？是否由于巨大薪资差异，导致人才流动主要以国内流向国际为主，而海外回流较少？ 专家：人才流动情况并非绝对。海外人才回国，更多是以合伙人或创业者身份参与，而非纯粹的“打工者”。从人才密度看，美国无疑更高，但国内人才储备也不少，并且双方通过各类活动、沙龙及校友群等渠道保持非常活跃的交流。国内AI创业创新环境与海外相比，差距并不大。 专家：近期观察到，腾讯和阿里等公司都在积极吸引海外高阶人才回归。预计未来五到十年，许多海外大模型人才将会回流到国内，其身份更多将是创业者。 问：考虑到近期美国加强对华芯片出口限制，例如禁止中资企业的海外子公司获取高端芯片，目前国内用于模型训练的芯片供应能否得到保障？具体通过哪些渠道确保供应？ 专家：用于模型训练的芯片是高优先级保障的，因为持续的模型迭代是后续推理应用的基础。目前，国内主要通过多种渠道获取算力，例如租赁，或与第三方算力提供商及合资公司合作共建。 专家：直接购买高风险、来历不明的芯片渠道现在已受到严格限制，批次等信息成为不可触碰的红线。因此，租赁和合作共建是当前更可行的方式。 专家：总体来看，当前推理环节的成本和芯片供应压力比训练环节更大。虽然长远来看，芯片限制会对业务和营收产生影响，但训练所需算力目前仍能得到保障。市场上H系列芯片因无法正常购买，导致卖方市场非常强势，定价坚挺，几乎没有议价空间。 问：在采购NVIDIA芯片时，当前优先选择H系列还是B系列？这两种芯片在性价比和应用场景上有何差异？ 专家：如果能买到，B系列芯片是首选；如果B系列买不到，才会考虑H系列，但目前B系列供应非常有限。从性价比看，B系列更高。H系列芯片预计在未来两年左右也将面临更新换代，因此从长远投资角度看，B系列更具优势。 专家：在应用上，训练任务基本都使用B系列芯片。对于推理任务，其性能要求相对较低，H系列芯片在性价比上尚可接受，因此市场上也有采购需求，但主要问题是供应短缺、买不到。 问：从内部评估来看，国内主要国产AI芯片供应商（如昇腾、寒武纪、平头哥、摩尔线程等）是否存在大致的性能或合作优先级排序？各家之间差距大吗？ 专家：虽然没有进行过非常专业的横向评测，但从目前合作情况看，平头哥、摩尔线程和沐曦的表现都相当不错，并且与智谱的合作比较紧密。昇腾也一直在进行适配与合作，并且是早期一体机项目的硬件合作方之一，当时的合作方还包括UCloud。至于寒武纪的思源系列，也有所了解。 问：近期Token价格变动趋势怎样，以及在哪里可以查询最新价格信息？ 专家：近期价格策略是动态博弈的结果，主要受市场供求关系和自身能力溢价影响。如果竞争对手在能力上追平甚至超越，并采取降价策略，智谱也将面临降价挑战。关于价格查询，可以在API平台bigmodel.cn上查看最新价格信息。此外，注册用户通常会通过短信等方式接收到价格变动通知。 问：