已验证75% 置信事实精确时间
SGLang 的 RadixAttention 技术能够在多个请求之间自动复用 KV Cache，通过基数树结构管理共享前缀以减少重复计算
3
来源数
75%
置信度
长期有效
时效性
2026/9/10
首次发现
来源
涉及实体
相关事实
待验证RadixAttention 能够识别不同请求之间共享的前缀部分并直接复用已缓存的计算结果，在系统提示词固定、多轮对话或批量文档问答场景下减少重复计算，提升吞吐量并降低首 Token 延迟（TTFT）73% 相似已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算72% 相似待验证SGLang 采用缓存感知调度策略，优先调度能复用更多已有缓存的请求70% 相似待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀65% 相似已验证提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/888700API
curl https://kongchang.com/api/v1/knowledge/claims/888700MCP
get_claim(id=888700)