Unverified50% confidenceFactExact time
GPT系列模型引入因果掩码（Causal Mask），确保生成每个token时只能看到前序上下文，实现自回归式逐词生成
1
Sources
50%
Confidence
Long-term
Relevance
7/14/2026
First Seen
Sources
Related Claims
UnverifiedGPT系列采用单向（因果）注意力掩码，使模型在预训练阶段每个token只能关注其之前的上下文，与BERT等双向模型形成根本区别77% similarUnverifiedGPT系列模型采用自回归生成方式，逐Token地预测下一个最可能的输出77% similarVerifiedGPT系列采用Transformer的解码器（Decoder-only）变体，通过自回归方式逐Token预测下一个词76% similarUnverifiedGPT模型在修改方法时会主动检查项目中所有调用该方法的地方并一并完成改造72% similarUnverifiedGPT系列模型采用单向自回归预训练，只能看到当前token左侧的历史信息71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/503405API
curl https://kongchang.com/api/v1/knowledge/claims/503405MCP
get_claim(id=503405)