概念前缀语言模型
PrefixLM
一种介于自编码与自回归之间的语言模型架构，输入序列分为前缀（双向注意力）和后缀（因果注意力）两部分，常用于文本生成、翻译和摘要任务
时间轴 (近 90 天)
10月13日
PrefixLM（前缀语言模型）是一种介于自编码（如BERT）与自回归（如GPT）之间的架构设计，输入序列被划分为前缀和后缀两部分，前缀部分内部token可互相看到（双向注意力），后缀部分只能看到自己及之前的token（因果注意力）。
待验证50%
一种介于自编码与自回归之间的语言模型架构，输入序列分为前缀（双向注意力）和后缀（因果注意力）两部分，常用于文本生成、翻译和摘要任务
PrefixLM（前缀语言模型）是一种介于自编码（如BERT）与自回归（如GPT）之间的架构设计，输入序列被划分为前缀和后缀两部分，前缀部分内部token可互相看到（双向注意力），后缀部分只能看到自己及之前的token（因果注意力）。