待验证50% 置信事实精确时间
预填充成本计算公式为:Prefill blocks = (Total input tokens - Cached tokens) / Block size。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
已验证Output Tokens are typically 2-4x more expensive than input Tokens because generation requires autoregressive decoding Token by Token, with each generated Token requiring a complete forward pass computation69% 相似待验证该方案的预填充吞吐随提示词长度增加而提升,从短提示词约290 token/s攀升至约1300 token/s,平均预填充吞吐约900 token/s67% 相似待验证AI编程的大部分成本来自输入Token(Input Tokens),而非输出Token(Output Tokens)66% 相似待验证Token 缓存(Prompt Caching)是大模型 API 中的成本优化机制,当同一段前缀在多次请求中重复出现时可缓存计算结果并收取更低费用66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1032218API
curl https://kongchang.com/api/v1/knowledge/claims/1032218MCP
get_claim(id=1032218)