待验证50% 置信事实精确时间

GPT系列只使用解码器部分专注于文本生成,BERT则只使用编码器部分擅长文本理解

1

来源数

50%

置信度

长期有效

时效性

2026/9/8

首次发现

来源

LangChain Agent 授权管控：四种策略与生产实践

涉及实体

GPTmodel BERTmodel

相关事实

待验证BERT只使用Transformer的编码器专练理解，GPT只使用解码器专练生成76% 相似待验证GPT-3 的预训练语料以自然语言为主，代码仅占约 1%，而 Codex 的微调数据集中代码占比超过 90%74% 相似待验证GPT-2采用纯解码器的Transformer堆叠结构，去掉了编码器-解码器的交叉注意力部分，专注于单向自回归语言建模72% 相似待验证现代大语言模型（如GPT系列）几乎全部采用仅解码器（Decoder-only）架构，通过掩码自注意力确保自回归生成不泄露未来token信息71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/879892

API

curl https://kongchang.com/api/v1/knowledge/claims/879892

MCP

get_claim(id=879892)