概念视觉编码器 / 视觉Encoder
Vision Encoder
多模态大模型中负责处理视觉输入的编码器模块,将图片或视频帧转换为大语言模型可理解的Token序列,实现视觉空间到语义空间的对齐,通常基于ViT架构实现
核心事实
时间轴 (近 90 天)
9月12日
Vision Encoder 的核心作用是对齐(alignment),即把视觉空间的信息映射到大语言模型的语义空间
待验证50%
9月11日
Qwen的视觉大模型主要基于语言大模型前接Vision Encoder,处理语音的模型则前接语音Encoder,视觉与语言模型仍相对分离
待验证50%
9月1日
多模态模型的视觉能力通常通过视觉编码器实现,常见方案包括ViT或SigLIP等预训练视觉模型
待验证50%