待验证50% 置信解决方案精确时间
缓存是指把重复出现的系统提示或长文档预先存储,后续请求以更低单价复用,适合多轮问答或固定知识库场景。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证持久化KV缓存将键值向量序列化存储至磁盘或对象存储,使跨会话、跨请求的历史上下文可以直接加载,绕开重算环节78% 相似待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存,命中缓存则降低计算成本和延迟76% 相似待验证Prompt缓存命中要求请求前缀与缓存写入时字节级完全一致,系统提示词中混入时间戳或会话ID等动态内容会导致缓存频繁失效75% 相似已验证Prompt Cache机制中,当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取,缓存写入是首次将内容写入缓存时的计费项74% 相似待验证缓存命中指模型服务端识别当前请求前缀与历史请求高度重合,直接复用已计算的KV缓存而无需重新推理,从而降低实际计算量74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1026478API
curl https://kongchang.com/api/v1/knowledge/claims/1026478MCP
get_claim(id=1026478)