待验证50% 置信事实精确时间
自回归模型将联合概率拆解为逐步条件概率的乘积，通过因果注意力掩码确保每个token只能看到左侧历史信息
1
来源数
50%
置信度
长期有效
时效性
2026/7/13
首次发现
来源
扩散语言模型崛起：DiffusionGemma实测速度碾压自回归模型
redditr/GoogleGeminiAI2026/7/11
相关事实
待验证自回归生成模型在每一步基于前文概率分布采样下一个 token，当某种重复模式获得略高概率后会形成正反馈循环导致重复退化75% 相似待验证传统自回归推理中，模型每一步只能基于已有上下文预测下一个token，是串行依赖关系74% 相似待验证大语言模型采用自回归生成机制，在每一步仅根据概率分布采样下一个token，每个token的生成以前序所有token为条件形成链式概率依赖73% 相似待验证贝叶斯优化基于概率代理模型（通常为高斯过程）建模历史实验结果，在探索与利用之间智能权衡，通常能以更少实验次数找到接近最优的参数配置72% 相似待验证每次前向传播生成token时，模型都需经过完整的多头注意力计算和前馈网络层，计算量由模型参数规模决定71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/497402API
curl https://kongchang.com/api/v1/knowledge/claims/497402MCP
get_claim(id=497402)