待验证50% 置信事实精确时间

由于编码是一条轨迹，改变token顺序会改变终点，使模型天然对词序敏感，区别于简单向量平均如CBOW求和

1

来源数

50%

置信度

长期有效

时效性

2026/7/13

首次发现

来源

无需MLP与注意力机制：点吸引子动力学如何学习词嵌入

redditr/learnmachinelearning2026/7/10

相关事实

待验证大语言模型通过自回归生成机制（autoregressive generation）逐token预测下一个输出，天然倾向于生成更完整而非更精简的代码71% 相似待验证用户输入的每个词都会成为模型的上下文，改变模型接收到的数学输入，进而影响解码阶段的概率分布和输出内容71% 相似待验证语言的语法结构越简单、惯用模式越统一，大模型在每一步预测中面临的困惑度越低，生成正确序列的概率越高69% 相似待验证模型基于前文预测后文，Prompt中任何一个字的变化都会改变后续生成概率，而标点符号的影响权重较小69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/496329

API

curl https://kongchang.com/api/v1/knowledge/claims/496329

MCP

get_claim(id=496329)