Unverified50% confidenceFactExact time
自回归生成源自2017年Transformer架构的提出，模型每次只生成一个词元，并将已生成的所有词元作为下一步的上下文输入
1
Sources
50%
Confidence
Long-term
Relevance
7/17/2026
First Seen
Sources
Related Claims
Unverified基于Transformer的LLM每次推理都是独立的前向传播计算，模型权重在推理阶段固定不变，所谓的上下文记忆本质上是将历史对话文本重新注入提示词74% similarUnverified当前主流大语言模型采用Transformer架构的自回归生成机制，逐Token从左到右生成，无法在生成后回头修改已输出的推理步骤74% similarVerifiedLLM基于Transformer架构采用自回归（Autoregressive）方式生成文本，每次前向传播只预测一个token，然后将该token追加到输入序列再预测下一个token74% similarUnverifiedTransformer架构在每次推理时必须处理完整的输入序列，代理执行到第N步时输入上下文必须包含前N-1步的完整执行轨迹73% similarUnverified自回归模型每多生成一个token就多获得一次Transformer前向传播的计算机会，用序列长度换取计算深度72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/536671API
curl https://kongchang.com/api/v1/knowledge/claims/536671MCP
get_claim(id=536671)