待验证50% 置信事实精确时间
提示缓存(Prompt Caching)对已处理过的输入token只收取十分之一的价格,是现代LLM API上杠杆率最高的成本优化手段之一。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
已验证Prompt Caching是主流LLM提供者(如Anthropic、OpenAI)推出的成本优化机制,当多次请求的前缀部分完全一致时,提供者缓存这部分计算结果,命中缓存的token按远低于正常输入的价格计费。79% 相似待验证缓存命中(cache hit)是大语言模型API中的一种计费优化机制,费率通常仅为普通输入Token的1/4甚至更低73% 相似已验证Claude API 支持提示缓存(Prompt Caching)机制,内容首次请求计费全价,后续命中缓存的 token 费用约为原价的 10%72% 相似待验证当前主流LLM API的定价体系通常由几个维度构成:按token计费(区分输入/输出)、按调用次数计费、阶梯定价、以及缓存命中折扣。71% 相似待验证几乎所有LLM API对第二次及后续看到完全相同内容的缓存命中token通常只收全价的10%71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060530API
curl https://kongchang.com/api/v1/knowledge/claims/1060530MCP
get_claim(id=1060530)