Model
BART
Meta(Facebook AI)于2019年推出的预训练语言模型,专为文本去噪与生成任务设计,采用编码器-解码器架构,编码器做双向注意力理解输入,解码器自回归生成输出
Core Facts
Timeline (last 90 days)
Oct 1
FastModel 现可微调 T5、T5Gemma、BART、Marian 等文本编码器-解码器模型
Unverified50%
Sep 14
零样本分类依托预训练大语言模型如BART、RoBERTa的NLI变体的语义理解能力
Verified75%
Sep 12
BART 由 Facebook AI 于 2019 年推出,专为文本去噪与生成任务设计,编码器负责理解输入,解码器负责生成输出
Unverified50%
All Facts (6)
Verified
零样本分类依托预训练大语言模型如BART、RoBERTa的NLI变体的语义理解能力
75%VerifiedBERT 采用编码器架构,GPT 系列采用解码器架构,T5 和 BART 采用编码器-解码器架构
75%Verified编码器-解码器架构相比纯解码器架构,编码器一次性压缩长输入为固定维度语义向量,解码器专注生成短结构化输出,是Needle针对工具调用任务的工程取舍
65%UnverifiedRAG原始论文使用DPR(Dense Passage Retrieval)作为检索器、BART作为生成器
90%UnverifiedFastModel 现可微调 T5、T5Gemma、BART、Marian 等文本编码器-解码器模型
50%UnverifiedBART 由 Facebook AI 于 2019 年推出,专为文本去噪与生成任务设计,编码器负责理解输入,解码器负责生成输出
50%