待验证50% 置信事实精确时间
提示词缓存通常有较短的生命周期（分钟级），并以服务商、模型、内容前缀为键。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
涉及实体
相关事实
待验证提示词缓存要求请求前缀逐字节匹配，且缓存通常有存活时间（如5分钟到1小时），超时后需重新写入。76% 相似待验证前缀缓存由Anthropic、OpenAI等模型提供商直接提供，保留静态提示词前缀的KV激活状态，复用预计算的注意力状态，但仍需承担提供商延迟和网络传输开销，典型读取延迟为200ms-1500ms。69% 相似待验证短期记忆通过在提示词中拼接历史对话实现，受限于模型上下文长度，通常4K到200K tokens不等68% 相似待验证对于单用户交互式场景推理速度达到5-10 token/s通常就能提供流畅体验，而代码生成、长文档摘要或多轮Agent调用往往需要30 token/s以上67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1055708API
curl https://kongchang.com/api/v1/knowledge/claims/1055708MCP
get_claim(id=1055708)