待验证50% 置信事实精确时间
在因果注意力机制下的自回归语言模型中，已缓存的 prefix 状态不会被后续 token 改写，缓存一旦写入便与完全重计算的结果完全一致。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
已验证提示词缓存能否命中取决于请求前缀的逐字节一致性，只要开头有一个字符不同，整段缓存就失效。75% 相似待验证缓存读取（KV Cache）机制通过复用已计算的中间结果避免对相同文本重复执行前向推理，从而降低长上下文高频调用场景的Token成本74% 相似待验证语言模型的提示缓存(prompt caching)机制会缓存已发送的消息，从而无需反复重新处理相同内容74% 相似待验证当把缓存的拼接顺序反转后，单Token的注意力测试依然能通过，但多个新Token一起解码时就会失败。74% 相似待验证纯解码器架构通过因果注意力掩码确保每个 token 只能关注其之前的上下文，适合自回归文本生成任务74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115509API
curl https://kongchang.com/api/v1/knowledge/claims/1115509MCP
get_claim(id=1115509)