待验证50% 置信事实精确时间
RadixAttention前缀缓存将多个请求的提示词构建成基数树，相同前缀只计算一次KV缓存，后续请求可直接复用。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证RadixAttention 能够识别不同请求之间共享的前缀部分并直接复用已缓存的计算结果，在系统提示词固定、多轮对话或批量文档问答场景下减少重复计算，提升吞吐量并降低首 Token 延迟（TTFT）78% 相似已验证SGLang 的 RadixAttention 技术能够在多个请求之间自动复用 KV Cache，通过基数树结构管理共享前缀以减少重复计算76% 相似待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀73% 相似已验证提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用72% 相似已验证Prompt缓存保存的是可复用前缀（提示词开头不变的Token）的KV状态，如果下一次请求以完全相同的前缀开头，服务商会复用已保存的计算结果，只处理新增部分68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1104794API
curl https://kongchang.com/api/v1/knowledge/claims/1104794MCP
get_claim(id=1104794)