待验证50% 置信事实精确时间
原始Transformer由编码器(Encoder)和解码器(Decoder)构成,BERT类模型只用编码器擅长理解和分类,GPT类模型只用解码器专注文本生成
1
来源数
50%
置信度
长期有效
时效性
2026/9/16
首次发现
来源
涉及实体
相关事实
待验证Transformer的编码器负责将输入序列映射为上下文表示,适用于分类理解类任务;解码器自回归生成输出序列,适用于文本生成任务80% 相似待验证The Transformer spawned two major technical paths: the encoder approach represented by BERT (excelling at understanding) and the decoder approach represented by GPT (excelling at generation), with the decoder approach becoming the dominant paradigm for large language models79% 相似待验证Transformer架构由Google于2017年提出,Encoder负责将输入文本编码为高维向量表示,Decoder基于编码表示逐token生成输出文本78% 相似待验证大语言模型通常采用仅解码器(Decoder-only)的Transformer变体,通过因果掩码确保每个位置只能关注其之前的token77% 相似待验证Transformer使用位置编码(Positional Encoding)在并行计算的同时保留词的顺序信息73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/926967API
curl https://kongchang.com/api/v1/knowledge/claims/926967MCP
get_claim(id=926967)