待验证50% 置信解决方案精确时间
语义缓存（Semantic Cache）通过计算新查询与历史查询的向量相似度，超过阈值时直接返回缓存答案，GPTCache等开源工具实现了这一机制，通常与TTL机制结合
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/8/28
首次发现
有效期至：2026/11/26
来源
涉及实体
相关事实
待验证Anthropic的Prompt Caching功能允许频繁重复的长上下文（如系统提示、代码库、文档）在服务器端缓存69% 相似待验证Prompt Cache机制中，当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取，缓存写入是首次将内容写入缓存时的计费项67% 相似待验证vLLM的前缀缓存（Prefix Caching）对KV Cache块计算哈希值，当新请求输入前缀与已缓存请求重叠时直接复用物理缓存块，跳过该部分prefill计算66% 相似待验证提示缓存的核心原理是KV Cache的跨请求复用，当多个请求共享相同前缀时已计算的KV状态可被缓存复用66% 相似待验证前缀缓存（Prefix Caching）技术通过将已计算的KV向量持久化存储在服务端，当新请求与之前请求存在大量重复前缀时可直接复用，匹配部分按缓存价格计费65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/813718API
curl https://kongchang.com/api/v1/knowledge/claims/813718MCP
get_claim(id=813718)