Unverified50% confidenceFactExact time
RadixAttention 引入全局共享 KV Cache 池，通过引用计数和 LRU 淘汰策略管理缓存生命周期，并在 Radix Tree 中执行最长前缀匹配
1
Sources
50%
Confidence
Long-term
Relevance
7/16/2026
First Seen
Sources
Related Claims
UnverifiedRadixAttention 通过将 KV Cache 组织为前缀树结构，使具有相同前缀的多个请求共享同一份缓存75% similarUnverifiedSGLang 的 RadixAttention 技术利用基数树结构缓存不同请求间的共享提示前缀，100个用户使用同一系统提示词时只需计算1次KV Cache63% similarUnverified在科研场景中，RAG通常与向量数据库如Pinecone、Weaviate结合使用61% similarUnverifiedSGLang 核心特性包括 RadixAttention（KV 缓存共享）、Continuous Batching 和原生结构化输出约束61% similarUnverified传统RAG流程的离线阶段将文档切片并通过嵌入模型转化为向量存储在向量数据库中，在线阶段通过近似最近邻（ANN）算法检索相似文档片段61% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/533861API
curl https://kongchang.com/api/v1/knowledge/claims/533861MCP
get_claim(id=533861)