待验证50% 置信事实精确时间
在该案例中，轻量模型承担了约65%的请求量，却只贡献了约2.4%的成本。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/21
首次发现
有效期至：2026/11/4
来源
涉及实体
相关事实
待验证在2000次请求的模拟中，小型模型（1单位成本/请求）准确率为74.5%，每次正确回答成本为1.34；大型模型（20单位成本/请求）准确率为95.8%，每次正确回答成本为20.88。71% 相似待验证在测试集中，一个中等规模模型的部署成本是某个更小模型的4倍，但应用性能只提升了约2%。70% 相似待验证当查询每次成本$0.015的高级推理模型时，$0.00002的嵌入调用对应的经济盈亏平衡命中率低于1%；当路由到轻量模型（如GPT-4o-mini或Claude 3.5 Haiku）且推理调用成本为$0.0002时，应用需要15%到20%的缓存命中率才能避免亏钱。68% 相似待验证在该成本拆解中，模型回复占总成本的 25.5%，排名第二。68% 相似待验证在2300万参数的小模型上，检索操作引入的额外计算图和内存访问开销的相对占比更高，可能掩盖了参数减少带来的好处。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1080698API
curl https://kongchang.com/api/v1/knowledge/claims/1080698MCP
get_claim(id=1080698)