待验证50% 置信事实精确时间
即使temperature设为0，不同的对话历史和系统提示也可能导致Transformer自注意力机制的注意力权重微小偏移，从而产生不同的数值输出
1
来源数
50%
置信度
长期有效
时效性
2026/9/8
首次发现
来源
涉及实体
相关事实
待验证即使temperature设为0（贪心解码），大语言模型的行为仍受上下文长度和注意力机制位置偏差等因素影响77% 相似已验证Transformer架构的注意力机制在处理超长序列时，对早期内容的关注度会显著下降，导致模型遗忘前文设定76% 相似待验证模型版本更新后，其注意力分配机制、温度敏感度和指令解析方式可能变化，导致原有提示词策略失效70% 相似待验证在Transformer模型推理过程中，KV Cache（键值缓存）会随对话增长不断膨胀，导致注意力分数分布越来越平坦，模型难以精准聚焦当前任务相关信息68% 相似待验证解码策略中温度参数设置过高会导致采样随机性增加，与幻觉产生有关68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/875589API
curl https://kongchang.com/api/v1/knowledge/claims/875589MCP
get_claim(id=875589)