待验证50% 置信事实精确时间
KV Cache（键值缓存）机制使得共享相同前缀的API请求可以复用已计算的Key和Value向量，从而大幅降低推理成本
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/2
首次发现
有效期至：2026/9/30
来源
相关事实
已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算80% 相似待验证Prompt Caching通过复用相同前缀内容的Key和Value矩阵来降低推理成本，Agent类应用因高频迭代和长上下文交互天然适合缓存优化74% 相似待验证Prompt Cache机制中，当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取，缓存写入是首次将内容写入缓存时的计费项74% 相似待验证Anthropic的提示缓存（Prompt Caching）利用Transformer架构中的KV Cache机制，通过缓存共享提示前缀对应的键值状态来降低延迟和成本70% 相似待验证提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/42884API
curl https://kongchang.com/api/v1/knowledge/claims/42884MCP
get_claim(id=42884)