待验证50% 置信决策规则精确时间
如果提示词大部分是重复固定的,而缓存读取量(cache_read_input_tokens)长期接近零,几乎可以断定前缀在每次请求间发生了变化。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
提示词缓存失效的真相:时间戳放错位置,每次调用都在付全价
rss2026/10/15
涉及实体
相关事实
待验证提示词缓存能否命中取决于请求前缀的逐字节一致性,只要开头有一个字符不同,整段缓存就失效。79% 相似待验证在提示词开头放置精确到秒的时间戳会导致每个请求从第一个字符开始就不同,从而使前缀缓存永远无法命中,所有内容按全价计费。78% 相似待验证提示词缓存(prompt caching)可以避免对相同前缀重复计费,因为系统提示词和检索文档片段在多轮对话中往往高度重复77% 相似待验证Prompt Caching要求提示满足最小可缓存长度(Anthropic通常为1024 Token),且前缀必须逐字节一致才能命中缓存71% 相似待验证前缀缓存通过缓存常见的提示词前缀来减少重复计算,从而提升推理效率70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1036610API
curl https://kongchang.com/api/v1/knowledge/claims/1036610MCP
get_claim(id=1036610)