待验证50% 置信预测精确时间
按每天 100 万请求、每月 30 天推算，Fable 5.1 每月可省约 21.1 万美元，Haiku 5.5 只省约 1900 美元；该推算是基于测量到的单请求成本做的算术，不是另一次实测，且排除了 HotKV 自身的托管和运维成本。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/19
首次发现
有效期至：2026/11/2
来源
涉及实体
相关事实
待验证在10万次查询/月的中等模型场景（基准成本约1369美元/月）中，切换到小型模型每月节省约980美元（72%）；检索3个块而非5个，每次查询省1000输入Token，节省200美元。77% 相似待验证参考负载（每月1100个任务，每个任务12K新鲜输入、48K缓存输入、6K输出token）下，启用缓存相比不启用每月可节省约190美元。74% 相似待验证对于日均处理1000万次请求、每次约500个token的系统，每百万token价格每增加0.01美元，月度成本约增加1500美元72% 相似待验证在相同 H100 配置下，8 请求并发负载时每百万输出 Token 成本约为 0.22–0.23 美元。72% 相似待验证作者前三个月本地LLM推理的每月运行成本（硬件摊销+电力）约58到73美元，而同等用量下云API月账单约180到240美元，净节省每月107到180美元，大约第4个月回本。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1065413API
curl https://kongchang.com/api/v1/knowledge/claims/1065413MCP
get_claim(id=1065413)