-
简介
- 大语言模型(LLM)API服务市场快速发展,从单点算法指标走向可规模化交付的在线服务形态。
- AIPing作为一站式AI评测与API服务智能路由平台,整合中国境内数十家算力提供商的数百个大模型API服务,提供统一API接入与智能路由能力。
- 关键结论:
- DeepSeek与Qwen系列模型占据开源模型的API调用的主导地位。
- API吞吐速率是用户选择服务商的重要因素,各服务商性能差距较大,全行业性能水平正在持续提升。
- 应用侧场景分化与模型偏好明显,通过智能路由可以有效提速降本。
-
模型
- 调用量:
- DeepSeek-V3/R1、DeepSeek-V3.2、Qwen3-32B、Qwen2.5-72B、Qwen3-235B-A22B等模型调用量较高。
- 头部模型呈现“少数强势型号占据大盘、同一模型家族内多版本并存”的结构。
- Qwen2.5-72B调用量维持在较高水平,部分存量AI应用更倾向于继续采用已被业务场景验证的“稳定基线”。
- 服务商支持模型数量:
- DeepSeek系列模型最受服务商欢迎,DeepSeek-V3/R1、DeepSeek-V3.1均有23家服务商支持。
- Qwen系列模型的支持呈现稳定覆盖梯度:基础模型(Base)最广,指令模型(Instruct)其次,Thinking版本覆盖有限。
- 供需错位:供给侧优先扩散“最易部署的通用能力”,需求侧则集中于“最具任务效用的专用能力”。
- 参数规模与价格:
- 价格不仅与总参数量相关,还受激活参数规模、服务商定价策略等因素影响。
- 部分服务商采取激进的定价策略,如SophNet和SCNet。
-
服务商
- 模型丰富度:
- 头部服务商供应量基本接近,基石智算、派欧云的开源模型覆盖数量最多,均为27个。
- 价格、速度、上下文长度:
- 服务商主流定价策略是“贴近官方价”,性能差异远大于定价差异。
- 官方渠道并不天然等于性能最优,第三方服务商在部分模型上可以系统性超越官方基线。
- 上下文长度在供给侧呈现“高度一致但仍存在显著缺口”的结构,对长上下文生产场景可能产生影响。
- 大部分服务商的TTFT分布下移并趋于收敛,吞吐分布略微上移,表明供给侧正在持续优化服务水平。
- 接口兼容性:
- OpenAI接口规范被绝大多数服务商广泛支持,Anthropic接口支持率仅为29.7%。
- 接口质量:
- 部分平台在失败场景中缺乏及时、明确的错误返回,错误返回规范性存在系统性不一致。
- 响应慢问题高度集中于特定服务商和特定模型场景。
- 其他观察:
- 部分服务商在模型供给的时效性、资源投入策略、多轮对话缓存机制等方面呈现明确的定位分化。
-
应用
- 场景分类:
- 不同任务在“输入—输出”结构上差异显著,路由需要能够感知任务形态。
- 任务与模型匹配结构明显,不同模型在不同任务类别上的使用占比呈现出强烈的集中。
- 路由策略:
- AIPing提供默认策略、性能优先、成本优先等路由策略,用户偏好“性能导向”策略。
- 智能路由提速降本效果:
- 智能路由在保证服务可用性的前提下,成本降低37.8%,吞吐提升约90%。
- 时空分布:
- 请求数与用户数整体呈现显著的昼夜节律和工作日结构性集中。
- 请求来源地域分布上,国内为主,“北京地区”和“国内其他地区”占比接近均衡。
- 值得关注的应用:
- AI应用呈现跨行业分布特征,从单纯的生产力工具演进为可被更广泛社会主体采用的通用能力。
-
趋势与预测
- 开源模型将继续成为中国模型厂家的标准化动作,服务商上架的模型范围越来越广。
- 主流旗舰模型的服务能力在监测窗口内都有性能优化的表现,行业整体服务水平会进一步提升。
- 服务商API需要适配的参数也呈现多元化的趋势,接口协议适配的深水区即将到来。
-
总结与讨论
- 需求侧呈现头部集中,多版本共存的结构,DeepSeek与Qwen构成国内开源模型主要调用的基本盘。
- 多数服务商对齐官方价,但在性能侧显著分化,性能已成为用户选择服务商的首要因素。
- 多种应用具有各自的模型偏好与差异化的上下文窗口需求,恰当选择底层API服务可以显著提升服务速度及降低服务使用成本。
- 智能路由是当前市场中极具确定性的工程增益来源,在价格高度收敛而性能显著异质的条件下,能够将不确定性转化为可优化的决策问题。
- 大模型API服务需求仍将延续快速增长态势,开源模型仍将保持快速迭代,供给侧竞争热点将进一步从“价格”转向“交付质量”。
- 平台与服务商的策略选择将更清晰地体现为两条路线的权衡:追求快速兼容更多模型,或聚焦少数关键模型的极致性能与稳定性。