待验证50% 置信事实精确时间
RadixAttention 通过基数树(Radix Tree)结构管理共享前缀以减少重复计算
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证RadixAttention 引入全局共享 KV Cache 池,通过引用计数和 LRU 淘汰策略管理缓存生命周期,并在 Radix Tree 中执行最长前缀匹配72% 相似待验证RadixAttention 通过将 KV Cache 组织为前缀树结构,使具有相同前缀的多个请求共享同一份缓存69% 相似待验证全局上下文文件可以结合检索增强生成(RAG)机制,在项目规模扩大后按需注入相关规则片段,避免超出模型的上下文窗口限制63% 相似待验证工程界普遍采用RAG架构:将历史信息切分成语义块,通过嵌入模型转化为向量存入向量数据库(如Faiss、Pinecone、Weaviate),用户提问时计算余弦相似度检索最相关片段60% 相似部分验证SGLang的核心创新是RadixAttention技术,通过前缀树结构实现KV Cache的自动复用60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/893348API
curl https://kongchang.com/api/v1/knowledge/claims/893348MCP
get_claim(id=893348)