待验证50% 置信事实精确时间

常规 KV 缓存是单请求内的优化，同一轮对话里历史消息生成的 KV 不需要重复计算，只增量计算新输入的内容。

1

来源数

50%

置信度

长期有效

时效性

2026/10/12

首次发现

来源

Prompt Caching 是什么？原理、场景与工程避坑指南

涉及实体

KV缓存concept 大语言模型推理concept

相关事实

已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算78% 相似待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同77% 相似待验证Prompt Caching 是跨请求、跨用户、跨对话的优化，只要不同请求的提示词前缀完全一致，对应的 KV 结果就能全局共享。72% 相似待验证缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1010931

API

curl https://kongchang.com/api/v1/knowledge/claims/1010931

MCP

get_claim(id=1010931)