待验证50% 置信事实精确时间

模型回退会在主模型不可用或质量不达标时切换到备用模型，而备用模型的定价可能完全不同

1

来源数

50%

置信度

长期有效

时效性

2026/10/1

首次发现

来源

LLM推理成本追踪难题：为什么账单看不清钱花在哪

涉及实体

模型回退concept

相关事实

待验证不同模型的token定价差异巨大，选错模型可能导致批量任务产生数倍开销67% 相似待验证大模型输出是概率性非确定性的，同一prompt在同一版本模型上多次运行可能产生不同结果，使灰度发布的质量判断困难66% 相似待验证低置信度请求会先在小模型上执行失败，再把相同上下文回退到大模型进行第二次生成，导致这类请求付出两次生成的代价，形成双重付费65% 相似待验证修复前模型每约29次下一token预测中约有1次的选择与数学上应有结果不同64% 相似待验证跨越多个模型的失败重试可能累积实际费用,若只记录成功那次的成本,账单归因会失真63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/964818

API

curl https://kongchang.com/api/v1/knowledge/claims/964818

MCP

get_claim(id=964818)