待验证50% 置信事实精确时间
主流前缀缓存实现包括Anthropic的Prompt Caching、OpenAI的自动缓存以及vLLM等推理框架的RadixAttention。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证Anthropic的Prompt Caching通过显式标记cache_control实现，OpenAI则提供自动前缀缓存。80% 相似待验证vLLM等主流推理框架已经原生支持自动前缀缓存功能78% 相似待验证vLLM实现了自动前缀缓存（Automatic Prefix Caching），SGLang支持基于RadixAttention的细粒度缓存复用77% 相似待验证OpenAI的Prompt Caching和Anthropic的Prompt Caching均采用KV缓存复用机制72% 相似待验证前缀缓存的典型受益场景包括共享相同system prompt的多轮对话、RAG中重复出现的文档上下文，以及代码补全中稳定的代码库前缀72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1057710API
curl https://kongchang.com/api/v1/knowledge/claims/1057710MCP
get_claim(id=1057710)