已验证65% 置信事实精确时间
Prompt缓存保存的是可复用前缀(提示词开头不变的Token)的KV状态,如果下一次请求以完全相同的前缀开头,服务商会复用已保存的计算结果,只处理新增部分
3
来源数
65%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
已验证提示缓存的核心原理是KV Cache的跨请求复用,当多个请求共享相同前缀时已计算的KV状态可被缓存复用79% 相似待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同76% 相似待验证缓存命中指模型服务端识别当前请求前缀与历史请求高度重合,直接复用已计算的KV缓存而无需重新推理,从而降低实际计算量75% 相似已验证KV Cache通过将已计算的键值对持久化存储,使相同Prompt前缀的后续请求可直接复用,跳过重复的矩阵运算75% 相似待验证Prompt 缓存是 Anthropic API 的一项能力:当请求的前缀部分与上一次请求完全一致时,服务端可以复用已计算好的中间状态,跳过重复的预填充计算。74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1002835API
curl https://kongchang.com/api/v1/knowledge/claims/1002835MCP
get_claim(id=1002835)