RadixAttention是SGLang推理框架中提出的一种注意力机制优化技术，通过基数树（Radix Tree）数据结构对KV Cache进行统一管理，实现跨请求的键值缓存自动复用。其核心能力包括：在多轮对话、批量推理等场景中识别共享前缀并复用对应缓存，从而减少重复计算、降低显存占用、提升大语言模型的推理吞吐效率。
SGLang 引入了 RadixAttention 技术，在某些基准测试中推理速度可比 vLLM 等主流推理框架提升 2-5 倍
SGLang 通过 RadixAttention 等创新技术实现 KV Cache 的高效复用，在处理复杂多轮对话和 Agent Loop 场景时可获得数倍吞吐量提升
SGLang的RadixAttention对于共享系统提示（system prompt）的场景可带来数倍吞吐量提升
SGLang的核心创新是RadixAttention技术，通过前缀树结构实现KV Cache的自动复用