待验证50% 置信事实精确时间

Prompt缓存能缩短首个Token的响应时间（time-to-first-token），因为模型跳过了对长前缀的重新处理

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

Prompt缓存实战：稳定内容放前面，别为重复Token付两次钱

涉及实体

Prompt Cachingconcept

相关事实

待验证更少的输入Token通常意味着更低的处理延迟76% 相似待验证切换模型、切换推理强度、开关快速推理模式、压缩对话、缓存过期后恢复等操作都会导致提示缓存失效74% 相似待验证在推理流程中，Prefill 阶段计算密集且耗时较长，Decode 阶段逐 token 自回归生成且对延迟敏感74% 相似待验证等待完整流式响应才能决定是否缓存会增加缓存层的内存压力和延迟73% 相似待验证主从复制中异步复制模式存在复制延迟，半同步模式降低数据丢失风险但增加写入延迟73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1002840

API

curl https://kongchang.com/api/v1/knowledge/claims/1002840

MCP

get_claim(id=1002840)