待验证50% 置信事实精确时间
SGLang是由UC Berkeley LMSYS团队开发的高性能大模型推理和服务框架,通过RadixAttention等技术优化KV Cache的复用效率
1
来源数
50%
置信度
长期有效
时效性
2026/9/2
首次发现
来源
涉及实体
相关事实
待验证SGLang由斯坦福团队开发,专注于结构化输出和复杂推理链的高效执行78% 相似待验证SGLang 是由学术界与工业界联合开发的高性能大模型推理框架,其核心机制是 RadixAttention73% 相似待验证SGLang 引入了 RadixAttention 技术,在某些基准测试中推理速度可比 vLLM 等主流推理框架提升 2-5 倍66% 相似待验证加州大学伯克利分校的研究团队开源了一套名为FreeToken的推理系统,可在单张工作站显卡上运行753B参数的大模型62% 相似待验证PagedAttention已被TensorRT-LLM、LMDeploy、SGLang等主流推理框架广泛借鉴和实现62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/845802API
curl https://kongchang.com/api/v1/knowledge/claims/845802MCP
get_claim(id=845802)