Unverified50% confidenceFactExact time
SGLang 的 RadixAttention 技术能够在多个请求之间自动复用 KV Cache，通过基数树结构管理共享前缀以减少重复计算
1
Sources
50%
Confidence
Long-term
Relevance
9/10/2026
First Seen
Sources
Related Entities
Related Claims
VerifiedKV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算72% similarUnverifiedKV Cache（键值缓存）机制使得共享相同前缀的API请求可以复用已计算的Key和Value向量，从而大幅降低推理成本67% similarUnverified前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀65% similarUnverified提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用65% similarUnverifiedAnthropic的提示缓存（Prompt Caching）利用Transformer架构中的KV Cache机制，通过缓存共享提示前缀对应的键值状态来降低延迟和成本65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/888700API
curl https://kongchang.com/api/v1/knowledge/claims/888700MCP
get_claim(id=888700)