待验证50% 置信事实精确时间
Prompt Caching 是 Anthropic API 等大模型服务商提供的机制:当请求前缀与之前请求完全一致时,服务端复用已计算的 KV Cache,命中缓存部分按输入价的 0.1 倍计费,首次写入缓存按 1.25 倍计价。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
已验证Prompt Cache机制中,当API请求前缀内容与之前相同时系统复用已计算的KV缓存以更低价格完成缓存读取,缓存写入是首次将内容写入缓存时的计费项80% 相似待验证Prompt Caching是指LLM服务商对请求中重复出现的前缀内容进行缓存,命中缓存则降低计算成本和延迟78% 相似已验证缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching78% 相似待验证Prompt Caching 是跨请求、跨用户、跨对话的优化,只要不同请求的提示词前缀完全一致,对应的 KV 结果就能全局共享。76% 相似待验证Prompt 缓存是 Anthropic API 的一项能力:当请求的前缀部分与上一次请求完全一致时,服务端可以复用已计算好的中间状态,跳过重复的预填充计算。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1064635API
curl https://kongchang.com/api/v1/knowledge/claims/1064635MCP
get_claim(id=1064635)