待验证50% 置信事实精确时间
RadixAttention 能够识别不同请求之间共享的前缀部分并直接复用已缓存的计算结果，在系统提示词固定、多轮对话或批量文档问答场景下减少重复计算，提升吞吐量并降低首 Token 延迟（TTFT）
1
来源数
50%
置信度
长期有效
时效性
2026/9/18
首次发现
来源
涉及实体
相关事实
待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀74% 相似待验证SGLang 的 RadixAttention 技术能够在多个请求之间自动复用 KV Cache，通过基数树结构管理共享前缀以减少重复计算73% 相似待验证语义缓存（Semantic Cache）通过计算新查询与历史查询的向量相似度，超过阈值时直接返回缓存答案，GPTCache等开源工具实现了这一机制，通常与TTL机制结合66% 相似待验证Anthropic 的 prompt caching 功能允许对重复出现的系统提示或代码文件进行缓存以降低输入 Token 成本65% 相似待验证ColBERT 采用延迟交互机制，为查询和文档的每个 token 生成嵌入向量，通过 MaxSim 操作计算相似度64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/931677API
curl https://kongchang.com/api/v1/knowledge/claims/931677MCP
get_claim(id=931677)