待验证50% 置信事实精确时间
缓存读取(Cache Read)是大型语言模型 API 中的一种计费与优化机制:当请求的前缀与之前某次请求完全一致时,服务商可以直接复用已计算好的键值缓存(KV Cache),而无需重新运行注意力计算。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
涉及实体
相关事实
已验证Prompt Cache机制中,当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取,缓存写入是首次将内容写入缓存时的计费项78% 相似待验证Prompt Caching 是 Anthropic API 等大模型服务商提供的机制:当请求前缀与之前请求完全一致时,服务端复用已计算的 KV Cache,命中缓存部分按输入价的 0.1 倍计费,首次写入缓存按 1.25 倍计价。74% 相似待验证缓存复用(Cache Reuse)是大语言模型API调用的成本优化机制,当请求前缀与之前请求一致时可复用已计算的KV缓存,跳过重复计算,降低延迟和成本72% 相似待验证Prompt 缓存是 Anthropic API 的一项能力:当请求的前缀部分与上一次请求完全一致时,服务端可以复用已计算好的中间状态,跳过重复的预填充计算。72% 相似已验证提示缓存的核心原理是KV Cache的跨请求复用,当多个请求共享相同前缀时已计算的KV状态可被缓存复用71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1089277API
curl https://kongchang.com/api/v1/knowledge/claims/1089277MCP
get_claim(id=1089277)