上下文缓存
将重复出现的系统提示或长文档预先存储，后续请求以更低单价复用，适用于多轮问答或固定知识库场景，可降低 token 成本。
核心事实
时间轴 (近 90 天)
DeepInfer的核心机制是上下文缓存，将已计算的数学路径保留在内存中，缓存有效期超过72小时。
Gemini API的上下文缓存分为隐式缓存（系统自动识别重复前缀）和显式缓存（开发者主动创建缓存对象并指定TTL）两种形态。
上下文缓存（context cache）在过期之前完全可读，且可能被日志系统或可观测性工具抓取；撤销API密钥不会触发缓存失效。
处理一篇8000 token的长文档时，KV缓存可能额外占用数GB内存。
提示词缓存能否命中取决于请求前缀的逐字节一致性，只要开头有一个字符不同，整段缓存就失效。
按 Anthropic 公布价格（输入 $10、输出 $50、缓存读取 $1、缓存写入 $12.50 每百万 token），文章中示例会话成本为 $16.88，其中缓存读取占 29.6%、缓存写入占 25.9%、新鲜输入占 14.8%、输出占 29.6%。
常规 KV 缓存是单请求内的优化，同一轮对话里历史消息生成的 KV 不需要重复计算，只增量计算新输入的内容。
全部知识事实 (7)
提示词缓存能否命中取决于请求前缀的逐字节一致性，只要开头有一个字符不同，整段缓存就失效。
70%已验证常规 KV 缓存是单请求内的优化，同一轮对话里历史消息生成的 KV 不需要重复计算，只增量计算新输入的内容。
65%待验证DeepInfer的核心机制是上下文缓存，将已计算的数学路径保留在内存中，缓存有效期超过72小时。
50%待验证Gemini API的上下文缓存分为隐式缓存（系统自动识别重复前缀）和显式缓存（开发者主动创建缓存对象并指定TTL）两种形态。
50%待验证上下文缓存（context cache）在过期之前完全可读，且可能被日志系统或可观测性工具抓取；撤销API密钥不会触发缓存失效。
50%待验证处理一篇8000 token的长文档时，KV缓存可能额外占用数GB内存。
50%待验证按 Anthropic 公布价格（输入 $10、输出 $50、缓存读取 $1、缓存写入 $12.50 每百万 token），文章中示例会话成本为 $16.88，其中缓存读取占 29.6%、缓存写入占 25.9%、新鲜输入占 14.8%、输出占 29.6%。
50%