待验证50% 置信事实精确时间
部分API提供商对重复上下文进行缓存以降低成本,但缓存策略不透明,计量器可能仍按完整token数展示用量或缓存命中与否的计费规则存在差异
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/11/5
首次发现
有效期至:2027/2/3
来源
为什么你的AI助手消耗了如此多Token?
redditr/LangChain2026/11/5
涉及实体
相关事实
待验证不同AI服务商的缓存粒度、命中条件和计费方式存在差异,例如有的按缓存写入token和缓存读取token分别计价,有的设置最小可缓存token长度。79% 相似待验证成本数据不受采样波动影响,因为token计数和API计费是确定性数值,同一API对同一查询返回的payload大小基本恒定75% 相似待验证缓存输入是指将相同上下文预存在服务端,后续请求复用缓存无需重复计算,按更低价格收费74% 相似待验证部分图像API供应商按'每次成功生成'计费(失败请求不计费),另一些按'每次API调用'计费(无论输出是否可用),后者在需要多次重试的场景下实际成本可能远高于标价。73% 相似待验证迁移到该 API 时,需要核对新旧口径是否一致,尤其是 token 计数的边界(例如是否包含缓存命中、是否区分输入输出 token),以及成本计算是否使用了与账单相同的单价。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1138752API
curl https://kongchang.com/api/v1/knowledge/claims/1138752MCP
get_claim(id=1138752)