待验证50% 置信事实精确时间
提示词漂移是指在长对话或复杂任务中模型行为逐渐偏离原始指令意图的现象,与Transformer注意力权重随序列长度增加而稀释有关
1
来源数
50%
置信度
长期有效
时效性
2026/7/19
首次发现
来源
相关事实
待验证麻省理工学院研究发现Transformer注意力机制处理少样本示例时行为模式与梯度下降优化器相似76% 相似待验证Decision Transformer通过自注意力机制直接建模跨越大时间跨度的因果关系,处理超长时序依赖75% 相似已验证Transformer的注意力机制缺乏随时间动态迭代的误差修正循环,这是其与生物注意力机制的根本分野72% 相似待验证Transformer架构存在「Lost in the Middle」效应,模型对对话开头和结尾的内容记忆较好,但中间部分容易丢失72% 相似已验证在Transformer架构中,系统指令的token会被放置在注意力机制的最前端,对后续所有生成内容产生持续性的约束影响71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/561651API
curl https://kongchang.com/api/v1/knowledge/claims/561651MCP
get_claim(id=561651)