待验证50% 置信事实精确时间
Prompt Caching 是跨请求、跨用户、跨对话的优化,只要不同请求的提示词前缀完全一致,对应的 KV 结果就能全局共享。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同77% 相似已验证提示缓存的核心原理是KV Cache的跨请求复用,当多个请求共享相同前缀时已计算的KV状态可被缓存复用77% 相似待验证Prompt Caching 适用于带固定系统提示的对话服务、RAG 知识库问答、工具调用型 Agent、批量标准化处理等场景。77% 相似待验证PagedAttention 支持多个请求共享相同前缀的 KV Cache(Prefix Caching)76% 相似待验证常规 KV 缓存是单请求内的优化,同一轮对话里历史消息生成的 KV 不需要重复计算,只增量计算新输入的内容。72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1010932API
curl https://kongchang.com/api/v1/knowledge/claims/1010932MCP
get_claim(id=1010932)