待验证50% 置信事实精确时间
许多服务商(如 Anthropic、OpenAI、Google)的 prompt caching 以 token 序列作为匹配单位,而非字符串,因此空格、换行或编码方式的细微差异都可能导致缓存无法命中。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/15
首次发现
有效期至:2027/1/13
来源
提示词缓存失效的真相:时间戳放错位置,每次调用都在付全价
rss2026/10/15
涉及实体
相关事实
待验证在 Anthropic 的 API 计费体系中,提示词缓存(prompt caching)允许将稳定前缀标记为缓存内容,后续相同前缀直接复用 KV 而不重新计算注意力,这部分 token 记为「缓存读取」。74% 相似待验证语言模型的提示缓存(prompt caching)机制会缓存已发送的消息,从而无需反复重新处理相同内容71% 相似待验证Prompt Caching要求提示满足最小可缓存长度(Anthropic通常为1024 Token),且前缀必须逐字节一致才能命中缓存71% 相似待验证提示词缓存(prompt caching)可以避免对相同前缀重复计费,因为系统提示词和检索文档片段在多轮对话中往往高度重复71% 相似待验证同一段文本在不同分词器下可能被切成数量不同的 token,而 API 计费、上下文窗口限制都以 token 数为单位。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1036604API
curl https://kongchang.com/api/v1/knowledge/claims/1036604MCP
get_claim(id=1036604)