待验证60% 置信事实精确时间
OpenAI于2024年推出Prompt Caching功能,当提示词前缀完全相同且超过1024 token阈值时复用KV Cache,缓存部分通常按原价25%甚至更低计费
2
来源数
60%
置信度
长期有效
时效性
2026/7/18
首次发现
来源
相关事实
待验证Prompt Caching在提示词前缀完全相同且超过约1024 token阈值时命中,缓存token通常按原价的25%甚至更低计费79% 相似已验证OpenAI Prompt Caching 可将重复前缀的缓存成本降至原价的10%-25%78% 相似待验证OpenAI 为 Codex 等模型提供提示缓存(Prompt Caching)机制,当请求前缀 token 序列与之前完全一致时可复用已计算的 KV 缓存,降低该部分计费价格(通常为正常价格的 50% 甚至更低)78% 相似待验证缓存输入 token 是 OpenAI 等供应商为大段重复前缀(如系统提示、长文档、few-shot 示例)提供的折扣机制,命中缓存的输入 token 按更低费率计费,通常只有标准输入价的十分之一左右。75% 相似待验证OpenAI 在 usage.prompt_tokens_details.cached_tokens 中报告缓存输入 token,且计费费率更低;忽略这一点会导致成本被高估。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/552250API
curl https://kongchang.com/api/v1/knowledge/claims/552250MCP
get_claim(id=552250)