待验证50% 置信事实精确时间
当查询每次成本$0.015的高级推理模型时,$0.00002的嵌入调用对应的经济盈亏平衡命中率低于1%;当路由到轻量模型(如GPT-4o-mini或Claude 3.5 Haiku)且推理调用成本为$0.0002时,应用需要15%到20%的缓存命中率才能避免亏钱。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
涉及实体
相关事实
待验证每 token 更便宜不等于每次正确决策更便宜;一个错误率 15% 的 $0.02 模型一旦计入判断错误代价,可能比错误率 5% 的 $0.10 模型更贵。74% 相似待验证仅用小模型策略的每正确答案成本最低($0.0004)但准确率仅33%,说明没有准确率底线的每正确答案成本指标具有误导性72% 相似待验证投机解码的草稿模型推理成本通常仅为主模型的1/5-1/1072% 相似待验证在2000次请求的模拟中,小型模型(1单位成本/请求)准确率为74.5%,每次正确回答成本为1.34;大型模型(20单位成本/请求)准确率为95.8%,每次正确回答成本为20.88。71% 相似待验证一个准确率略低但便宜五倍的模型,在每美元有效发现指标上可能反而胜出,前提是用分层路由兜住高风险场景70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1033741API
curl https://kongchang.com/api/v1/knowledge/claims/1033741MCP
get_claim(id=1033741)