待验证50% 置信解决方案精确时间
SGLang引入会话引用感知的统一Radix缓存,请求可携带session_id使缓存淘汰识别活跃会话仍引用的前缀,通过/close_session释放引用
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/11
首次发现
有效期至:2026/12/10
来源
涉及实体
相关事实
待验证SGLang的核心创新RadixAttention将KV缓存组织为前缀树结构,使具有公共前缀的多个请求能够共享缓存66% 相似待验证SGLang 的 RadixAttention 技术利用基数树结构缓存不同请求间的共享提示前缀,100个用户使用同一系统提示词时只需计算1次KV Cache62% 相似待验证持久记忆系统本质上是RAG范式在对话历史领域的专项深化,检索源从静态知识库变为动态累积的用户交互记录59% 相似待验证RadixAttention 通过将 KV Cache 组织为前缀树结构,使具有相同前缀的多个请求共享同一份缓存57% 相似待验证SGLang出自伯克利,引入RadixAttention实现更高效的前缀共享和缓存管理,对Agent类工作负载优化更到位57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/897572API
curl https://kongchang.com/api/v1/knowledge/claims/897572MCP
get_claim(id=897572)