待验证50% 置信决策规则精确时间
Prompt缓存不能帮助绕过100,000 token的计费档位线,因为计费分档看的是prompt总token数而非未命中缓存的增量;唯一有效的规避手段是缩短prompt本身。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/18
首次发现
有效期至:2027/1/16
来源
涉及实体
相关事实
已验证Prompt Caching通过复用相同前缀的KV Cache跳过重复计算,降低延迟和Token费用69% 相似待验证缓存读取与缓存写入的 token 量都会计入 Haiku 5.5 的 100K 定价阈值判定,因此缓存无法帮助规避定价悬崖。69% 相似待验证实现 KV 缓存时,应让缓存与未缓存版本在长序列(如 200 多个 token)上逐 token 对比贪心输出,而非仅做单步验证,才能有效验证缓存正确性。66% 相似待验证官方数据缩小的是缓存需求,并不等于整台机器只需要1/4的显存66% 相似待验证Schema投影层将4800 Token的银行响应载荷压缩到48 Token,实现99%的Token消耗削减,且不损失决策精度。65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060048API
curl https://kongchang.com/api/v1/knowledge/claims/1060048MCP
get_claim(id=1060048)