待验证50% 置信事实精确时间
BERT只使用Transformer的编码器专练理解，GPT只使用解码器专练生成
1
来源数
50%
置信度
长期有效
时效性
2026/7/12
首次发现
来源
CNN到Transformer：AI理解人类语言的进化之路
bilibiliAI-Agent搭建2026/7/9
相关事实
待验证GPT-2采用纯解码器的Transformer堆叠结构，去掉了编码器-解码器的交叉注意力部分，专注于单向自回归语言建模72% 相似部分验证Transformers come in three variants: encoder-only (like BERT), decoder-only (like GPT), and encoder-decoder (like T5)71% 相似待验证现代LLM普遍采用的GPT架构本质上是仅使用Transformer解码器（Decoder-only）部分的自回归语言模型69% 相似待验证Transformer架构分化为BERT类（Encoder-only，适合理解任务）和GPT类（Decoder-only，适合生成任务）两大路线68% 相似已验证BERT 采用编码器架构，GPT 系列采用解码器架构，T5 和 BART 采用编码器-解码器架构68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/490824API
curl https://kongchang.com/api/v1/knowledge/claims/490824MCP
get_claim(id=490824)