待验证50% 置信事实精确时间
prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/10
首次发现
有效期至：2027/1/8
来源
涉及实体
相关事实
已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算80% 相似已验证提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用76% 相似待验证PagedAttention 支持多个请求共享相同前缀的 KV Cache（Prefix Caching）75% 相似待验证缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching72% 相似待验证vLLM的前缀缓存（Prefix Caching）对KV Cache块计算哈希值，当新请求输入前缀与已缓存请求重叠时直接复用物理缓存块，跳过该部分prefill计算69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/993945API
curl https://kongchang.com/api/v1/knowledge/claims/993945MCP
get_claim(id=993945)