待验证50% 置信事实精确时间

LLM中输出token的成本通常是输入token的3-6倍，因为生成需要逐token自回归推理

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

Frontier Code Deep Dive: Code That Runs ≠ Code That Merges — A Quality Revolution in Programming Benchmarks

bilibili烟神殿副殿主2026/6/9

相关事实

待验证输出token通常比输入token更贵，因为输出需要自回归逐token生成，计算密度更高且GPU利用率更低65% 相似待验证在百万级样本的批量预测场景中，LLM的推理成本可能比树模型高出三到四个数量级65% 相似待验证LLM生成阶段对词汇表（通常包含32,000至128,000个token）计算Softmax概率分布，形成总和为1的概率向量63% 相似待验证大语言模型的推理成本与模型参数量呈近似线性关系，GPT-4级别模型的输入token成本通常是小型专用模型的10-30倍61% 相似待验证业界估算主流前沿模型的推理成本约为训练成本的数倍乃至数十倍61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/48348

API

curl https://kongchang.com/api/v1/knowledge/claims/48348

MCP

get_claim(id=48348)