Unverified50% confidenceFactExact time
GLM基于自回归空白填充预训练，融合了BERT的双向理解能力与GPT的生成能力，通过二维位置编码区分原始序列位置与空白内部位置
1
Sources
50%
Confidence
Long-term
Relevance
7/6/2026
First Seen
Sources
美团CatPaw实测：免费GLM-5.2编程工具靠谱吗？
bilibili鲲鹏Talk7/2/2026
Related Claims
Unverified可学习位置编码为BERT和GPT-2等模型采用，缺点是无法处理超出训练长度的序列77% similarVerifiedGLM采用了独特的自回归填空预训练范式，与GPT的纯自回归和BERT的纯掩码语言模型都有所不同77% similarUnverifiedGPT系列采用单向（因果）注意力掩码，使模型在预训练阶段每个token只能关注其之前的上下文，与BERT等双向模型形成根本区别70% similarUnverifiedGLM系列来自清华大学KEG实验室与智谱AI，采用不同于GPT自回归的自回归填空预训练目标69% similarUnverifiedGPT系列模型采用单向自回归预训练，只能看到当前token左侧的历史信息68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/114176API
curl https://kongchang.com/api/v1/knowledge/claims/114176MCP
get_claim(id=114176)