开源权重普及与闭源定价博弈下，推理基础设施的定价权上移——大模型中间层步入商业化验证期专题报告

大模型中间层步入商业化验证期专题报告 海外科技《从制程微缩到系统集成：先进封装技术变革与设备投资新周期》2026.08.11海外科技《就业降温缓解加息压力，AI业绩驱动美股风险偏好回升》2026.08.09海外科技《北美CSP Q2业绩，AI投资ROI商业逻辑确立》2026.08.02海外科技《26Q3合约价涨幅放缓，高盈利韧性支撑长景气周期》2026.07.26海外科技《资本开支加速，Agentic AI拉动CPU需求持续上行》2026.07.26 本报告导读： AI支出重心由训练转向推理，Token成为计量与变现单元。连接算力、模型与应用的大模型中间层已形成可识别商业模式：海外验证路由网关、高性能推理云、生产级部署三层分化；国内独立词元平台在封闭云主导格局下开辟差异化空间。 投资要点： 海外独立中间层已形成较清晰的商业模式分层。①路由网关层以OpenRouter为代表，通过统一API接入数百个开源与闭源模型，以纯软件路由、跨厂商负载均衡与自动故障切换匹配成本、性能与稳定性需求。本身不自研推理引擎、亦不直接租赁GPU，变现上沿用底层厂商推理定价、主要对用户收取约5%–5.5%手续费。公司披露周Token处理量半年内由约5万亿升至约25万亿，年化收入约0.5亿美元，B轮投后估值约13亿美元。 ②推理云层中，Fireworks聚焦开源及客户定制模型的高性能推理与后训练，以自研推理栈与多云算力调度交付生产级服务，7月ARR突破10亿美元、日Token超约40万亿，且95%以上流量来自专用模型，D轮投后估值175亿美元。Together AI则定位AI原生云，在开源模型推理、训练与强化学习之外，提供GPU集群等算力服务，并推进由转租向自建数据中心延伸，截至26Q2年化订单额约11.5亿美元，C轮投后估值约83亿美元。 ③全栈部署层以Baseten为代表，帮助企业将自有或开源模型转化为可商用API，覆盖Dedicated Inference、ModelAPIs、Training等产品，并提供Cloud、Self-hosted、Hybrid等部署方式。同时以开源框架Truss与Chains复合工作流降低上线门槛、延伸至多步骤应用。预估ARR约6亿美元，F轮估值约110–130亿美元。 风险提示：商业化与持续经营风险，竞争与生态挤压风险，算力成本与利润率风险，客户集中与需求波动风险，技术迭代与产品替代风险，合规与数据安全风险。 目录 1. AI支出重心加速转向推理，大模型中间层价值凸显.................................32.海外AI中间层商业模式分化，头部推理云验证十亿级规模.....................52.1. OpenRouter：轻资产运营的AI模型聚合平台，网络效应构建护城河..52.2. Fireworks：开源模型高速推理与定制平台，工程性能构筑核心差异...72.3. Together AI：全栈AI原生云平台，自建算力打开长期单位经济期权102.4. Baseten：提供从训练到部署的全栈MLOps，开源封装驱动自下而上采用..........................................................................................................123.硅基流动：国内独立生态Token供应商，自研推理引擎与异构算力编排154.风险提示..............................................................................................20 1.AI支 出重心加速转向推理，大模型中间层价值凸显 Token消耗进入加速放量阶段，专业化AI推理基础设施的配置价值上升。智能体与多步工具调用拉长推理链路，算力需求重心由训练侧进一步 转向推理侧。OpenRouter周Token处理量在约半年内由约5万亿升至约25万亿；按平台周序列测算，26年4–6月相邻统计窗口的环比增速分别约3.9%、27.8%、53.6%（4/5–5/3、5/4–5/31、6/1–6/28）。需求侧，IDC在Agent经济学框架下预测：全球Agent相关年度Token消耗量有望由2025年的约0.0005 PetaTokens升至2030年约15.3万PetaTokens，隐含CAGR约3418%。与此同时，单位推理价格持续下行，但用量扩张往往更快，推动企业总推理支出上升。在开源模型快速迭代下，越来越多工作负载在成本、可控、避免单一厂商锁定等约束下，转向开源权重+第三方推理/路由，或采用闭源打头部能力、开源承接规模流量的混合架构。由此，跨模型调度、高性能推理与异构算力编排等中间层能力，成为支撑规模化落地的关键基础设施。 资料来源：硅基流动招股书，弗若斯特沙利文 连接算力、模型与应用的AI中间层，正在成为大模型规模化落地的关键使能环节。随着可用大模型数量快速增加、AI芯片路线日趋多元，不同模型与硬件的适配标准差异大。对多数中小开发者与企业而言，若完全自建模型 适配、推理优化与算力调度，固定成本与工程门槛显著抬升。独立中间层平台通常不上探基座大模型训练、亦不直接面向C端应用争夺流量。而是向下整合算力与多模型供给、向上以API/部署能力承接应用侧调用，提供统一接入、推理加速、弹性调度乃至跨芯片编排等能力。海外已分化出路由网关、高性能推理云与全栈部署等不同形态，其共性并非卖Token本身，而是降低多模型、多算力环境下的集成与运营摩擦。在异构算力与开源模型并行扩张的阶段，该类平台有望成为支撑AI应用放量的重要基础设施层，其价值最终取决于吞吐规模、单位经济与客户黏性。 数据来源：硅基流动招股书，弗若斯特沙利文 在多模型、多芯片、多部署并行的格局下，第三方独立MaaS的差异化价值上升。Token供应大致可分为封闭生态与独立生态：前者由云厂商及头部AI企业主导，依托自有算力、自有或主推模型与应用入口形成业务闭环。后者以相对中立的基础设施定位为主，通常不自研基座大模型、也不与客户在应用层直接抢场景，侧重多模型接入、推理交付与算力编排，以降低客户对单一云或单一模型的绑定。独立平台的竞争力，更多体现在利益冲突更弱、产品聚焦、以及对多元算力/模型/部署形态的响应速度。在异构算力与开源模型扩张阶段，不愿被大厂生态锁定的企业与开发者需求，为独立MaaS提供了生存空间。 资料来源：硅基流动招股书，弗若斯特沙利文 2.海外AI中间层商业模式分化，头部推理云验证十亿级规模 海外独立AI中间层已形成较清晰的商业模式分层，大致可分为路由网关、推理云与全栈部署三类：（1）路由网关层（以OpenRouter为代表）：定位多模型聚合与统一API，纯软件路由、轻资产运营，一般不自研推理引擎、亦不直接租赁或持有GPU，收入主要来自交易/充值抽成。（2）推理云层（以Fireworks、Together AI为代表）：在GPU算力之上提供推理加速、调度与微调等工程能力，以提升吞吐、降低延迟与单位成本；其中Fireworks更偏多云聚合的轻资产模式，Together则同时向自建算力延伸，资产与盈利路径开始分化。（3）全栈部署层（以Baseten为代表）：侧重将客户自有或定制模型稳定送入生产环境，覆盖容器化部署、多云调度、训练/后训练与运维等MLOps能力，价值主张更接近可靠上线与深度定制，而非单纯的Token转售。 2.1.OpenRouter：轻资产运营的AI模型聚合平台，网络效应构建护城河 领先的独立AI模型网关，轻资产运营与抽佣变现。2023–2025年，可用大模型由少数几家快速扩展至数百个，API格式、定价、限流与区域可用性高度碎片化，开发者逐个对接成本显著上升。OpenRouter定位为多模型聚合与路由平台，以统一API接入70余家厂商、400+开源与闭源模型，并提供 路由、跨厂商负载均衡与自动故障切换，按成本、性能与稳定性匹配调用路径。平台本质是纯软件网关：无自研推理引擎、不直接租赁GPU，属轻资产模式。变现上，推理价沿用底层厂商刊例、不做加价；收入主要来自用户购买credit时的手续费（公开口径约5%–5.5%）。 数据来源：OpenRouter官网 数据来源：OpenRouter官网 网络效应与供给卡位构成主要壁垒，区域可用性需合规审视。平台服务1000万+开发者，覆盖个人开发者至企业客户，形成模型供给-开发者流量的双边飞轮。厂商接入可触达广泛分发场景，丰富供给再吸引增量开发者。部分市场存在模型官方接口可用性差异，平台因此获得一定可达性溢价。据晚点财经，Anthropic约占平台12%Token调用量，却贡献约46%收入，显示高单价模型的收入弹性，但此类结构亦意味着供应商与合规集中度风险。OpenRouter投资方包括CapitalG（Alphabet）、NVentures（英伟达）及a16z、Menlo等，有助于前沿模型接入与产业协同。 Token调用量增长迅猛。平台2026年5月底官方披露数据显示，OpenRouter每周Token调用量由半年前的5万亿攀升至25万亿，半年增幅400%。收入方面，Sacra估计年化收入由2025年末约1900万美元升至2026年3月约5000万美元。据晚点财经，OpenRouter已实现单位经济盈利（即新增付费用户的增量收入可以覆盖增量可变成本，不再依赖补贴）。 数据来源：OpenRouter官网，The Information，IT之家，Sacra，国泰海通证券研究 Stripe洽谈收购OpenRouter，估值快速攀升。2026年5月，OpenRouter完成总额1.13亿美元的新一轮B轮融资，由Alphabet旗下CapitalG领投，英伟达、ServiceNow、Snowflake、Databricks等巨头跟投。公司投后估值约13亿美元，较2025年6月A轮5-5.5亿美元估值大幅提升。据《华尔街日报》7月报道，全球SaaS支付基础设施公司Stripe正就收购OpenRouter进行谈判，估值或达100亿美元。 战略上，OpenRouter处于模型供给与应用需求之间的路由与计量层，商业模式接近按量抽成的AI收单网关，与Stripe“服务互联网GDP、并布局Token级实时支付”的方向契合。双方本已有支付合作，若成交，Stripe将同时获得多模型流量入口与企业AI支出的实时数据，在进攻上嵌入AI账单，在防守上避免闸口落入云厂或费用平台之手。OpenRouter护城河在于规模化多模型路由、统一计费与开发者默认心智，但面临开源网关与云厂商替代、以及大模型厂商渠道政策变化。 2.2.Fireworks：开源模型高速推理与定制平台，工程性能构筑核心差异 Fireworks定 位 为 面向生 产环境的开 源/定制模型推理与后训练平台。Fireworks抓住企业要高性能、可控成本的推理基础设施缺口，以自研推理栈切入，逐步扩展为覆盖实验、部署、微调与评估的云端AI基础设施，帮助客户运行、定制并扩展大模型应用。产品侧提供Serverless / On-Demand /Reserved等部署形态，并配套后训练计费。整套体系基于Fireworks自研推理引擎搭建，相较其他服务商，厂商口径推理速度最高提升40倍、成本降至1/8。 深耕开源生态，轻资产聚合多云算力。平台模型库覆盖文本、图像、音频及多模态，支持200+开源模型（含DeepSeek、Kimi、GLM、MiniMax等前沿系列，使企业可以灵活选择和组合与业务场景高度匹配的模型）。基础设施上，Fireworks不自建数据中心、原则上不直接持有GPU，通过自研调度层聚合全球20+算力供应商资源（含AWS、Azure等）统一交付。2026年初，Fireworks收购游戏服务器编排公司Hathora，补强跨云低延迟调度能力。