待验证50% 置信事实精确时间
由于编码是一条轨迹,改变token顺序会改变终点,使模型天然对词序敏感,区别于简单向量平均如CBOW求和
1
来源数
50%
置信度
长期有效
时效性
2026/7/13
首次发现
来源
无需MLP与注意力机制:点吸引子动力学如何学习词嵌入
redditr/learnmachinelearning2026/7/10
相关事实
待验证大语言模型通过自回归生成机制(autoregressive generation)逐token预测下一个输出,天然倾向于生成更完整而非更精简的代码71% 相似待验证用户输入的每个词都会成为模型的上下文,改变模型接收到的数学输入,进而影响解码阶段的概率分布和输出内容71% 相似待验证语言的语法结构越简单、惯用模式越统一,大模型在每一步预测中面临的困惑度越低,生成正确序列的概率越高69% 相似待验证提示词漂移指模型更新后即便提示词文本未改,模型对指令的解读、工具调用时机和输出格式偏好都可能发生变化导致工作流失效69% 相似待验证模型基于前文预测后文,Prompt中任何一个字的变化都会改变后续生成概率,而标点符号的影响权重较小69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/496329API
curl https://kongchang.com/api/v1/knowledge/claims/496329MCP
get_claim(id=496329)