LLM API定价悬殊：同款模型价差高达32倍

同一款开源模型，换个API供应商，价格可能相差32倍。一项覆盖137家供应商、4033个模型条目的定价分析揭示了一个矛盾的市场：中位数价差为0%，但长尾却极度分化。对于依赖LLM API的开发者来说，选错供应商的代价远比想象中更大。

市场概览：零中位数与极端长尾并存

这份分析基于LiteLLM的model_cost表，覆盖4033个模型条目、137家供应商。在筛选出至少有两家供应商提供且可比较输入价格的375个模型后，一个反直觉的结论浮现：输入价格价差的中位数恰好是0.0%。也就是说，对于大多数模型，所有供应商收取的每百万token价格完全一致。

但在同一批样本中，42个模型（11%）的价格价差超过200%。另有13个模型落在100%到200%区间，25个在50%到100%之间。72%的模型价差控制在20%以内，可那些偏离者并非边缘案例，它们恰恰是选错供应商就会击穿成本模型的关键少数。

输入价格价差	模型数	占比
>200%	42	11%
100-200%	13	3%
50-100%	25	7%
20-50%	25	7%
<20%	270	72%

LiteLLM 与 model_cost 表：LiteLLM 是一个开源的 LLM API 统一调用层，允许开发者用 OpenAI 兼容的接口调用上百种模型和供应商。其仓库中的 model_cost 表是一个社区维护的定价数据库，按模型记录各供应商的输入/输出每百万 token 价格、上下文窗口等元数据。该表由脚本定期从各供应商公开页面抓取并合并，因此不同条目的更新频率并不一致。本文分析正是基于这一表结构，筛选出至少有两家供应商且输入价格可比较的模型子集，从而计算出价差分布。需要注意的是，model_cost 表是社区协作产物，个别条目的价格可能滞后或存在录入偏差，但这不影响中位数 0.0% 所反映的结构性结论。

为什么中位数是零？

中位数为0.0%并非四舍五入的假象，而是市场的结构性常态。报告给出的机制解释相当直接：大多数推理供应商本质上在转售同一批上游算力。它们上架同一个基础模型，跑在同一代GPU硬件上，传递相同的每token上游成本。当输入成本完全相同时，转售商的利润空间成为唯一变量，而在大宗商品化的市场里，这个空间会被压缩到接近于零。

第二个机制是标价转售。许多供应商并不自主定价，而是镜像模型原厂或主流市场的公开价格。当供应商的唯一成本就是上游API调用时，理性的做法是以等于或略低于上游的价格争夺流量，而非发明溢价。这解释了一个容易被误读的现象：表面上137家供应商、数千个模型，看起来竞争充分，但大部分供应商坐落在同一条价格线上，本质上是一个没有谁真正拥有算力的穿透式市场。

穿透式市场（pass-through market）：在经济学中，穿透式定价指上游成本变化被几乎完全传递到下游售价，中间商仅赚取极薄的服务费或流量费。LLM API 转售市场正是这一模式的典型：供应商从模型原厂或云平台批量采购推理算力，再以接近成本的价格零售给开发者。由于各家转售商面对的上游报价基本相同，且切换成本低，任何试图加价的行为都会迅速流失客户，利润空间被竞争压缩至接近零。这也解释了为何 137 家供应商、数千个模型条目看似竞争充分，实际却集中在同一条价格线上——它们更像是同一上游算力的不同出口，而非真正独立的定价主体。

巨大价差从哪里来？

高价差并非来自大宗商品化的转售商，而是来自两种处于定价光谱两端的商业模式。

第一类是GPU小时主机商，例如crusoe、hyperbolic。它们按原始算力定价，而非按token推理定价。用户租用一块GPU按小时计费，可以跑任何模型。其每token输入价格取决于模型在该硬件上的运行速度，而非刻意制定的推理价格。数据中心利用率、电力成本和硬件代际的差异，会让同一模型的每token成本剧烈波动。最极端的案例是openai/gpt-oss-120b：wandb报价$0.03/M输入token，crusoe报价$0.80/M，价差高达+2566.7%。低价可能来自亏损引流或低利用率主机，高价则是按裸算力全额加价的主机。

第二类是专业化推理供应商，它们运行自己的服务栈，往往带有定制批处理、量化或路由。它们要覆盖的不只是GPU，还有工程成本。例如mistral-large-latest在mistral自家平台是$0.5/M，在azure上是$8/M，价差+1500.0%。Mistral按自有硬件成本加成定价，Azure则为企业的SLA、技术支持和集成能力收取溢价。同一个模型、同一套权重，但服务封装完全不同。

据分析，价差超过200%的42个模型几乎全部落在这两类供应商与廉价大宗转售商的对比中。它们不是定价错误，而是同名模型下出售的两种不同产品。

GPU 小时计费与按 token 计价的区别：GPU 小时主机商以裸算力为单位出租 GPU（如 A100/H100 按小时收费），用户自行部署模型并承担推理框架、批处理、扩缩容等工程工作。其“每 token 价格”并非主动定价，而是由模型吞吐量反推得出：同一块 GPU 跑不同模型，每秒生成的 token 数不同，折算出的每百万 token 成本自然差异巨大。相比之下，按 token 计价的推理供应商将硬件、调度、运维打包为单价，开发者无需关心底层利用率。两种模式服务于不同需求：前者适合有工程能力、追求极致成本或需要自定义微调的用户；后者适合希望即插即用、按用量付费的团队。价差表中的极端值往往就是这两种计价逻辑被放在同一维度比较的结果。

价差表最严重的案例

模型	供应商数	最低价	最高价	价差
Qwen/Qwen3-235B-A22B-Instruct-2507	3	$0.09/M (deepinfra)	$3/M (crusoe)	+3233.3%
openai/gpt-oss-120b	13	$0.03/M (wandb)	$0.8/M (crusoe)	+2566.7%
deepseek广告-ai/DeepSeek-R1-Distill-Qwen-14B	2	$0.07/M (nscale)	$1.6/M (together_ai)	+2185.7%
mistral-large-latest	3	$0.5/M (mistral)	$8/M (azure)	+1500.0%
Qwen/Qwen2.5-Coder-32B-Instruct	3	$0.06/M (nscale)	$0.8/M (together_ai)	+1233.3%
deepseek-ai/DeepSeek-R1-0528	5	$0.25/M (hyperbolic)	$3/M (crusoe)	+1100.0%
Qwen/Qwen3-235B-A22B	3	$0.18/M (deepinfra)	$2/M (hyperbolic)	+1011.1%
meta-llama/Llama-3.3-70B-Instruct-Turbo	2	$0.1/M (deepinfra)	$1.04/M (together_ai)	+940.0%

openai/gpt-oss-120b尤其值得关注：13家供应商横跨$0.03/M到$0.8/M，约27倍差距。在这个模型上随机选供应商，相当于在数据集的最便宜和最贵选项之间掷硬币。

价差表没有告诉你的三件事

短上下文的局限。 这些价格是短上下文长度下的每token输入费率。长上下文请求被许多供应商单独定价，那$0.03/M的价格很可能基于标准上下文，长上下文请求可能将价格推高一个数量级。因此2566.7%这个数字实际上低估了生产工作负载的真实波动。

快照而非实时报价。 这些价格是某个时间点的数据抓取。供应商的公开标价变更频繁，有时按周调整。今天看起来像2566.7%的异常，下周可能变成10%的价差。0.0%的中位数对此稳健，但长尾并不稳健。

同名模型不等于比特级相同。 供应商可能在同一个模型名下提供不同的量化等级（FP16对INT8）或不同批大小。提供量化版本的供应商可以合理地收更低价，因为占用更少内存和带宽。这也意味着价差低于20%的270个模型是更可靠的基准，而那些价差超过200%的42个模型，模型名称可能是它们之间唯一的共同点。

量化等级对价格的影响：量化是将模型权重从高精度（如 FP16）压缩到低精度（如 INT8、INT4）的技术，可显著降低显存占用和带宽需求，从而提升吞吐、降低成本，但可能带来轻微的质量损失。供应商常在同一模型名称下提供不同量化版本，却不在 API 名称中明确标注，导致比价时“同名不同质”。因此，价差低于 20% 的模型群更适合作为基准，因为其供应商大概率运行相同精度；而价差超过 200% 的案例中，低价方可能正是通过量化或更激进的批处理来压价，开发者若对输出质量敏感，应在比价之外额外验证实际推理精度和一致性。

开发者该怎么应对

在为一个模型投入生产之前，先确认它是否由多家供应商提供。分析中382个模型有2家以上供应商，375个可比较输入价格。虽然中位数价差是0.0%，但42个模型（11%）价差超过200%。一次简单的供应商比价查询就能判断你是否在白白多付钱。

切换供应商往往只需改一行代码：多数OpenAI兼容SDK只需要换一个base_url和API密钥，不需要重构推理代码或改动提示模板。代价在运营层面，包括新的速率限制、延迟特征和支持SLA。建议先在更便宜的端点做一次冒烟测试，再把生产流量迁过去。对于成本敏感的工作负载，如果模型是开放权重的，第一步永远是枚举供应商、对比实际的每百万token价格，而不是只看模型名称。

数据来源方面，LiteLLM的model_cost表为本次分析提供了原始数据，按模型页面的逐供应商价格表每日重建，可作为持续比价的参考。