待验证75% 置信事实精确时间

SGLang的RadixAttention对于共享系统提示（system prompt）的场景可带来数倍吞吐量提升

1

来源数

75%

置信度

长期有效

时效性

2026/5/21

首次发现

来源

Cloudflare向SGLang贡献KV Cache与Mooncake关键修复

twitterlmsysorg2026/5/21

涉及实体

SGLangproduct RadixAttentionconcept

相关事实

待验证SGLang出自伯克利，引入RadixAttention实现更高效的前缀共享和缓存管理，对Agent类工作负载优化更到位69% 相似待验证SGLang 通过 RadixAttention 等创新技术实现 KV Cache 的高效复用，在处理复杂多轮对话和 Agent Loop 场景时可获得数倍吞吐量提升67% 相似待验证SGLang 的 RadixAttention 技术利用基数树结构缓存不同请求间的共享提示前缀，100个用户使用同一系统提示词时只需计算1次KV Cache66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/582

API

curl https://kongchang.com/api/v1/knowledge/claims/582

MCP

get_claim(id=582)