自回归
语言模型的一种生成方式，每一步基于已生成的所有前缀token预测下一个token，逐步构建完整序列，是GPT等生成式大模型的核心机制
核心事实
时间轴 (近 90 天)
流匹配动作专家（如 π0.5）将动作生成建模为从噪声到动作的连续变换过程，通过迭代去噪产生平滑动作序列，适合高维连续控制；自回归方法（如 π0-FAST）将动作离散化为 token 逐 token 预测。
分类器将输入映射到有限预定义类别之一，候选空间固定封闭；生成式语言模型在每一步从整个词表上预测下一个token，候选空间开放，并通过自回归方式逐步构建输出
自回归生成是当前主流大语言模型（如 GPT 系列）的核心解码范式：每次生成一个 token 并追加到序列末尾，循环直到遇到终止符
本地AI推理速度公式为 Token/s ≈ 内存带宽 / 每token需读取的数据量，大语言模型生成每个token采用自回归方式
由于自回归特性，每个decode step都需要访问之前所有token的KV Cache
LLM采用自回归方式生成文本，每次只产出一个token，且下一个token的生成必须等待前一个token完成
自回归token预测范式建立在相关性而非因果性之上
自回归推理时batch size通常为1，每个token生成只做一次矩阵-向量乘法，算术强度极低，导致memory-bound问题，单用户场景下GPU利用率往往不到10%
现代主流LLM采用自回归生成方式，逐个token按顺序生成
自回归推理是memory-bound（内存带宽受限）问题，因为batch size通常为1时算术强度极低，GPU大部分时间在等待数据搬运
还有 2 条时间轴事件
全部知识事实 (13)
现代大语言模型采用自回归（Auto-regressive）方式生成代码，每次预测下一个Token只能参考已有上下文
75%已验证大模型生成输出采用自回归方式逐个token生成，每生成一个token都需重新计算对所有前文的注意力
65%待验证LLM采用自回归方式生成文本，每次只产出一个token，且下一个token的生成必须等待前一个token完成
70%待验证流匹配动作专家（如 π0.5）将动作生成建模为从噪声到动作的连续变换过程，通过迭代去噪产生平滑动作序列，适合高维连续控制；自回归方法（如 π0-FAST）将动作离散化为 token 逐 token 预测。
50%待验证分类器将输入映射到有限预定义类别之一，候选空间固定封闭；生成式语言模型在每一步从整个词表上预测下一个token，候选空间开放，并通过自回归方式逐步构建输出
50%待验证自回归生成是当前主流大语言模型（如 GPT 系列）的核心解码范式：每次生成一个 token 并追加到序列末尾，循环直到遇到终止符
50%待验证本地AI推理速度公式为 Token/s ≈ 内存带宽 / 每token需读取的数据量，大语言模型生成每个token采用自回归方式
50%待验证由于自回归特性，每个decode step都需要访问之前所有token的KV Cache
50%待验证自回归token预测范式建立在相关性而非因果性之上
50%待验证现代主流LLM采用自回归生成方式，逐个token按顺序生成
50%待验证自回归推理时batch size通常为1，每个token生成只做一次矩阵-向量乘法，算术强度极低，导致memory-bound问题，单用户场景下GPU利用率往往不到10%
50%待验证自回归推理是memory-bound（内存带宽受限）问题，因为batch size通常为1时算术强度极低，GPU大部分时间在等待数据搬运
50%待验证输出生成是严格串行的自回归过程，每生成一个token都需要一次完整的模型前向传播
50%