待验证50% 置信事实精确时间
OpenAI Chat Completions 的 usage 字段中,prompt_tokens 包含缓存 Token(prompt_tokens_details.cached_tokens 是其子集),计算成本时需先减去缓存部分再对剩余部分应用全价。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/17
首次发现
有效期至:2027/1/15
来源
流式LLM响应中的Token统计:三大TypeScript API差异
rss2026/10/17
涉及实体
相关事实
待验证OpenAI 在 usage.prompt_tokens_details.cached_tokens 中报告缓存输入 token,且计费费率更低;忽略这一点会导致成本被高估。79% 相似已验证OpenAI Prompt Caching 可将重复前缀的缓存成本降至原价的10%-25%73% 相似待验证缓存输入 token 是 OpenAI 等供应商为大段重复前缀(如系统提示、长文档、few-shot 示例)提供的折扣机制,命中缓存的输入 token 按更低费率计费,通常只有标准输入价的十分之一左右。71% 相似待验证OpenAI于2024年推出Prompt Caching功能,当提示词前缀完全相同且超过1024 token阈值时复用KV Cache,缓存部分通常按原价25%甚至更低计费71% 相似已验证Prompt Caching是主流LLM提供者(如Anthropic、OpenAI)推出的成本优化机制,当多次请求的前缀部分完全一致时,提供者缓存这部分计算结果,命中缓存的token按远低于正常输入的价格计费。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1051979API
curl https://kongchang.com/api/v1/knowledge/claims/1051979MCP
get_claim(id=1051979)