待验证50% 置信事实精确时间
KV Cache技术可复用历史Token的注意力计算结果,部分厂商对命中缓存的Token给予标准价格10%-50%的折扣
1
来源数
50%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
待验证提示词缓存(Prompt Caching)机制可复用相同前缀上下文的 KV Cache,通常可节省 50%~90% 的输入 token 成本80% 相似待验证Anthropic 的提示词缓存机制基于 KV Cache,可使匹配前缀的输入 token 费用降低约 90%75% 相似待验证API缓存命中机制可使已发送过的输入Token在重复调用时享受折扣价,通常为原价的10%-50%68% 相似待验证Prompt Caching通过复用前缀KV Cache,以Anthropic定价为参考可将延迟降低约85%、成本降低约90%68% 相似待验证OpenAI和Anthropic均已推出Prompt Cache功能,可复用KV Cache,对调用方体现为token费用折扣(通常为50%–90%)66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/582164API
curl https://kongchang.com/api/v1/knowledge/claims/582164MCP
get_claim(id=582164)