待验证50% 置信事实精确时间
当把缓存的拼接顺序反转后,单Token的注意力测试依然能通过,但多个新Token一起解码时就会失败。
1
来源数
50%
置信度
长期有效
时效性
2026/10/18
首次发现
来源
涉及实体
相关事实
待验证提示词缓存能否命中取决于请求前缀的逐字节一致性,只要开头有一个字符不同,整段缓存就失效。73% 相似待验证纯解码器架构通过因果注意力掩码确保每个 token 只能关注其之前的上下文,适合自回归文本生成任务72% 相似待验证提示词缓存(prompt caching)可以避免对相同前缀重复计费,因为系统提示词和检索文档片段在多轮对话中往往高度重复66% 相似待验证in-context conditioning 将文本条件与图像 token 拼接成同一序列,省去交叉注意力模块,但会导致序列变长和注意力计算量上升。66% 相似待验证如果提示词大部分是重复固定的,而缓存读取量(cache_read_input_tokens)长期接近零,几乎可以断定前缀在每次请求间发生了变化。66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1060683API
curl https://kongchang.com/api/v1/knowledge/claims/1060683MCP
get_claim(id=1060683)