部分验证70% 置信事实精确时间
SGLang的核心创新是RadixAttention技术,通过前缀树结构实现KV Cache的自动复用
4
来源数
70%
置信度
长期有效
时效性
2026/5/27
首次发现
来源
SGLang v0.5.12.post1发布:DeepSeek V4稳定性修复与Blackwell适配
twitterlmsysorg2026/5/27
涉及实体
相关事实
待验证SGLang的核心创新RadixAttention将KV缓存组织为前缀树结构,使具有公共前缀的多个请求能够共享缓存79% 相似待验证SGLang 通过 RadixAttention 等创新技术实现 KV Cache 的高效复用,在处理复杂多轮对话和 Agent Loop 场景时可获得数倍吞吐量提升71% 相似待验证SGLang通过RadixAttention实现基于哈希的前缀缓存机制,命中缓存则直接复用已有KV张量并跳过prefill阶段重复计算69% 相似待验证SGLang出自伯克利,引入RadixAttention实现更高效的前缀共享和缓存管理,对Agent类工作负载优化更到位69% 相似待验证SGLang 核心特性包括 RadixAttention(KV 缓存共享)、Continuous Batching 和原生结构化输出约束68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/559API
curl https://kongchang.com/api/v1/knowledge/claims/559MCP
get_claim(id=559)