待验证50% 置信事实精确时间
Decoder 路线中上下文可以前置并缓存，因果掩码下上下文只需 prefill 一次拿到 KV cache，后续每个问题直接复用，只计算新增的问题 token。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
Jev实战：用单次Prefill替代逐token解码的决策模型
youtubefreeCodeCamp.org2026/10/27
涉及实体
相关事实
待验证在推送模式中，预填充实例在完成 KV 缓存生成后主动将缓存推送到解码实例，解码实例只需等待数据到达，传输协调不再阻塞解码实例的令牌生成循环。80% 相似已验证KV Cache通过将已计算的键值对持久化存储，使相同Prompt前缀的后续请求可直接复用，跳过重复的矩阵运算78% 相似待验证prompt caching 在服务端复用已计算的 KV 缓存需要上一次请求的上下文前缀与本次完全相同73% 相似待验证Prefill 阶段需要一次性处理全部输入 token，属于计算密集型操作；Decode 阶段每步仅生成一个 token，属于内存带宽密集型操作72% 相似待验证由于自回归特性，每个decode step都需要访问之前所有token的KV Cache72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1104020API
curl https://kongchang.com/api/v1/knowledge/claims/1104020MCP
get_claim(id=1104020)