Unverified50% confidenceFactExact time
自回归模型将联合概率拆解为逐步条件概率的乘积，通过因果注意力掩码确保每个token只能看到左侧历史信息
1
Sources
50%
Confidence
Long-term
Relevance
7/13/2026
First Seen
Sources
扩散语言模型崛起：DiffusionGemma实测速度碾压自回归模型
redditr/GoogleGeminiAI7/11/2026
Related Claims
Unverified自回归生成模型在每一步基于前文概率分布采样下一个 token，当某种重复模式获得略高概率后会形成正反馈循环导致重复退化75% similarUnverified传统自回归推理中，模型每一步只能基于已有上下文预测下一个token，是串行依赖关系74% similarUnverified大语言模型采用自回归生成机制，在每一步仅根据概率分布采样下一个token，每个token的生成以前序所有token为条件形成链式概率依赖73% similarUnverified贝叶斯优化基于概率代理模型（通常为高斯过程）建模历史实验结果，在探索与利用之间智能权衡，通常能以更少实验次数找到接近最优的参数配置72% similarUnverified每次前向传播生成token时，模型都需经过完整的多头注意力计算和前馈网络层，计算量由模型参数规模决定71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/497402API
curl https://kongchang.com/api/v1/knowledge/claims/497402MCP
get_claim(id=497402)