待验证50% 置信事实精确时间
Prefill 阶段处理完整输入上下文，为所有输入 token 计算注意力并生成 KV 缓存，属于计算密集型操作，耗时与输入长度强相关。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
待验证Prefix Cache 优化是指当多轮对话中系统提示词保持不变时，API 服务端可缓存该前缀的 KV 计算结果供后续请求复用，减少重复计算、降低延迟和 Token 成本79% 相似待验证Prefill 阶段需要一次性处理全部输入 token，属于计算密集型操作；Decode 阶段每步仅生成一个 token，属于内存带宽密集型操作78% 相似待验证常规 KV 缓存是单请求内的优化，同一轮对话里历史消息生成的 KV 不需要重复计算，只增量计算新输入的内容。74% 相似待验证缓存机制在技术上通常被称为 KV Cache 或 Prompt Caching73% 相似已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1011385API
curl https://kongchang.com/api/v1/knowledge/claims/1011385MCP
get_claim(id=1011385)