自回归模型是一类基于序列概率分解的生成式模型,通过依次预测序列中的每个元素(如文本中的token),将联合概率建模为条件概率的连乘积。其核心特征是利用已生成的历史信息预测下一个输出,具有因果性和顺序依赖性。自回归模型被广泛应用于自然语言处理、语音合成和图像生成等领域,是大型语言模型的主流架构之一。