待验证50% 置信事实精确时间
GPT-3 的成功验证了 decoder-only 架构在超大规模下的扩展性与灵活性，此后主流研究向 decoder-only 收敛
1
来源数
50%
置信度
长期有效
时效性
2026/9/12
首次发现
来源
涉及实体
相关事实
部分验证GPT系列采用了仅解码器（Decoder-only）架构79% 相似待验证代码推理能力的质变在 GPT-3 到 GPT-4 的代际跨越中被系统性观察到，符合规模化定律的涌现现象72% 相似待验证现代大语言模型（如GPT系列）几乎全部采用仅解码器（Decoder-only）架构，通过掩码自注意力确保自回归生成不泄露未来token信息72% 相似待验证GPT-2采用纯解码器的Transformer堆叠结构，去掉了编码器-解码器的交叉注意力部分，专注于单向自回归语言建模69% 相似待验证GPT-4、LLaMA、Qwen等主流生成式大模型采用Decoder-only架构；BERT、RoBERTa采用Encoder-only架构；T5、BART采用Encoder-Decoder架构69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/916431API
curl https://kongchang.com/api/v1/knowledge/claims/916431MCP
get_claim(id=916431)