待验证50% 置信注意事项精确时间
Prompt缓存命中要求请求前缀与缓存写入时字节级完全一致，系统提示词中混入时间戳或会话ID等动态内容会导致缓存频繁失效
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存，命中缓存则降低计算成本和延迟74% 相似待验证前缀缓存利用长对话中system prompt和历史对话不变的特点，保存固定前缀的KV缓存供新一轮对话复用以避免重复计算74% 相似待验证缓存键由模型版本、系统提示、工具定义和对话历史共同构成，任何维度变化都会导致缓存失效72% 相似待验证客户端缓存只对完全相同的输入有效，而KV Cache擅长处理前缀重复的场景，两者叠加使用能覆盖更广的重复模式71% 相似待验证持久化KV缓存将键值向量序列化存储至磁盘或对象存储，使跨会话、跨请求的历史上下文可以直接加载，绕开重算环节71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998461API
curl https://kongchang.com/api/v1/knowledge/claims/998461MCP
get_claim(id=998461)