待验证50% 置信事实精确时间
当LLM流式请求被抢占后重发整个prompt,会为已生成的前缀token重复付费
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证Anthropic的Prompt Caching功能对请求中的固定前缀部分若能复用缓存,则对相应Token给予折扣69% 相似待验证批处理将大量请求打包提交,由服务端异步处理后统一返回结果,通常伴随更优惠的定价65% 相似待验证每次重试都会重新发送完整的 prompt 输入 token 并被全额计费,一个 4000 输入 token 的请求重试 3 次会消耗 16000 个 token65% 相似待验证Anthropic在2025年推出的Prompt Caching功能对重复出现的前缀上下文给予90%的价格折扣,但仅适用于同一会话或同一用户的连续请求63% 相似待验证在演示中输入客户消息「我被扣了两次款,请退还重复支付的款项」,模型返回账单类别,概率约 98%61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/999884API
curl https://kongchang.com/api/v1/knowledge/claims/999884MCP
get_claim(id=999884)