Q-Former
Q-Former是Salesforce在BLIP-2中提出的桥接模块，使用可学习的查询向量通过交叉注意力从视觉编码器输出中抽取信息，将任意数量图像特征压缩为固定数量token。
时间轴 (近 90 天)
学习式重采样器（如Q-Former）压缩token数量时引入额外参数和注意力计算开销。
Q-Former是Salesforce在BLIP-2中提出的桥接模块，用可学习查询向量通过交叉注意力从视觉编码器输出中抽取信息，压缩成固定数量token。
视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)
Q-Former通过一组可学习的查询向量从冻结的视觉编码器中提取固定数量的视觉特征，实现信息瓶颈式压缩
跨模态对齐模块的常见实现包括线性投影层（LLaVA采用）、Q-Former（BLIP-2采用）以及交叉注意力机制
BLIP-2利用Q-Former结构通过可学习查询向量提取固定数量的视觉特征
全部知识事实 (6)
BLIP-2利用Q-Former结构通过可学习查询向量提取固定数量的视觉特征
60%待验证学习式重采样器（如Q-Former）压缩token数量时引入额外参数和注意力计算开销。
50%待验证Q-Former是Salesforce在BLIP-2中提出的桥接模块，用可学习查询向量通过交叉注意力从视觉编码器输出中抽取信息，压缩成固定数量token。
50%待验证视觉嵌入向量与文本嵌入向量的对齐通常通过投影层完成,常见实现包括线性层、MLP、Q-Former(如BLIP-2采用)或Perceiver Resampler(如Flamingo采用)
50%待验证Q-Former通过一组可学习的查询向量从冻结的视觉编码器中提取固定数量的视觉特征，实现信息瓶颈式压缩
50%待验证跨模态对齐模块的常见实现包括线性投影层（LLaVA采用）、Q-Former（BLIP-2采用）以及交叉注意力机制
50%