BLIP-2
BLIP-2是Salesforce提出的视觉语言预训练框架，引入Q-Former桥接模块实现视觉与语言模态对齐。
时间轴 (近 90 天)
Q-Former是Salesforce在BLIP-2中提出的桥接模块，用可学习查询向量通过交叉注意力从视觉编码器输出中抽取信息，压缩成固定数量token。
视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)
Q-Former通过一组可学习的查询向量从冻结的视觉编码器中提取固定数量的视觉特征，实现信息瓶颈式压缩
跨模态对齐模块的常见实现包括线性投影层（LLaVA采用）、Q-Former（BLIP-2采用）以及交叉注意力机制
Flamingo由DeepMind于2022年提出，BLIP-2由Salesforce于2023年提出
BLIP-2利用Q-Former结构通过可学习查询向量提取固定数量的视觉特征
全部知识事实 (6)
BLIP-2利用Q-Former结构通过可学习查询向量提取固定数量的视觉特征
60%待验证Q-Former是Salesforce在BLIP-2中提出的桥接模块，用可学习查询向量通过交叉注意力从视觉编码器输出中抽取信息，压缩成固定数量token。
50%待验证视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)
50%待验证Q-Former通过一组可学习的查询向量从冻结的视觉编码器中提取固定数量的视觉特征，实现信息瓶颈式压缩
50%待验证跨模态对齐模块的常见实现包括线性投影层（LLaVA采用）、Q-Former（BLIP-2采用）以及交叉注意力机制
50%待验证Flamingo由DeepMind于2022年提出，BLIP-2由Salesforce于2023年提出
50%