待验证50% 置信事实精确时间
Prompt缓存以“前缀”为单位生效，只对从头开始完全一致的内容有效；一旦中间某个token发生变化，其后的内容都无法命中已有缓存。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证提示词缓存能否命中取决于请求前缀的逐字节一致性，只要开头有一个字符不同，整段缓存就失效。72% 相似待验证Prompt Caching缓存的是输入而非输出，缓存LLM的输出几乎没有意义72% 相似部分验证在 Anthropic 的 API 计费体系中，提示词缓存（prompt caching）允许将稳定前缀标记为缓存内容，后续相同前缀直接复用 KV 而不重新计算注意力，这部分 token 记为「缓存读取」。71% 相似待验证提示词缓存技术将KV矩阵存储在高速内存中，当下一次请求包含相同前缀内容时直接读取缓存跳过重算71% 相似待验证当多模态内容与前缀缓存机制交叉时，可能出现缓存项被前缀部分覆盖导致数据引用错乱或状态不一致69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1058480API
curl https://kongchang.com/api/v1/knowledge/claims/1058480MCP
get_claim(id=1058480)