待验证50% 置信事实精确时间
Prompt Caching是主流LLM提供者(如Anthropic、OpenAI)推出的成本优化机制,当多次请求的前缀部分完全一致时,提供者缓存这部分计算结果,命中缓存的token按远低于正常输入的价格计费。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证Token 缓存(Prompt Caching)是大模型 API 中的成本优化机制,当同一段前缀在多次请求中重复出现时可缓存计算结果并收取更低费用78% 相似待验证OpenAI 为 Codex 等模型提供提示缓存(Prompt Caching)机制,当请求前缀 token 序列与之前完全一致时可复用已计算的 KV 缓存,降低该部分计费价格(通常为正常价格的 50% 甚至更低)76% 相似已验证OpenAI Prompt Caching 可将重复前缀的缓存成本降至原价的10%-25%76% 相似待验证Anthropic的Prompt Caching功能对请求中的固定前缀部分若能复用缓存,则对相应Token给予折扣74% 相似待验证当前主流LLM API的定价体系通常由几个维度构成:按token计费(区分输入/输出)、按调用次数计费、阶梯定价、以及缓存命中折扣。73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1011773API
curl https://kongchang.com/api/v1/knowledge/claims/1011773MCP
get_claim(id=1011773)