待验证50% 置信权衡取舍精确时间
在系统提示词数千 token 的 Agent 场景中,若90%以上的请求命中缓存,实际每次请求的有效输入成本可能只有挂牌价的5%-10%
1
来源数
50%
置信度
长期有效
时效性
2026/9/26
首次发现
来源
涉及实体
相关事实
待验证在 Agentic 场景中,系统提示、工具定义和少样本示例往往占总输入 Token 的 30%-60%,合理设计缓存边界可将实际成本压缩到名义价格的 30%-50%78% 相似待验证在长时间运行的agentic对话场景下,90%以上的输入token按缓存价格计费77% 相似待验证缓存命中计费机制下,命中缓存的部分按更低价格计费,Agent 场景缓存命中率往往高达 90% 以上,缓存价格对重度 Agent 用户实际成本影响远超标称输入单价74% 相似待验证API缓存命中机制可使已发送过的输入Token在重复调用时享受折扣价,通常为原价的10%-50%71% 相似待验证输入Token已占非缓存Token总量的90%以上,输入上下文的成本占比从47.5%上涨至近70%70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/951860API
curl https://kongchang.com/api/v1/knowledge/claims/951860MCP
get_claim(id=951860)