待验证50% 置信事实精确时间
Prompt caching让多次请求共享的相同前缀只需首次请求完整计费和处理，后续请求命中缓存可降低输入token价格并减少延迟；但缓存不能缩短总上下文长度，长历史仍会占用上下文窗口并抬高延迟。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
聊天机器人每轮重发全部历史：实测上下文成本与压缩策略
rss2026/10/15
涉及实体
相关事实
待验证部分厂商推出上下文缓存（Prompt Caching）功能，对重复出现的长前缀仅收取较低费用77% 相似待验证缓存输入是指将相同上下文预存在服务端，后续请求复用缓存无需重复计算，按更低价格收费77% 相似待验证prompt caching 允许供应商缓存 Agent 循环中重复的相同前缀，后续调用按缓存读取价计费，本例 $0.20 对输入 $4，便宜 20 倍。74% 相似待验证Token 缓存（Prompt Caching）是大模型 API 中的成本优化机制，当同一段前缀在多次请求中重复出现时可缓存计算结果并收取更低费用71% 相似待验证Prompt Caching在提示词前缀完全相同且超过约1024 token阈值时命中，缓存token通常按原价的25%甚至更低计费70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1037065API
curl https://kongchang.com/api/v1/knowledge/claims/1037065MCP
get_claim(id=1037065)