[控场AI]
概念视觉编码器 / 视觉Encoder

Vision Encoder

多模态大模型中负责处理视觉输入的编码器模块,将图片或视频帧转换为大语言模型可理解的Token序列,实现视觉空间到语义空间的对齐,通常基于ViT架构实现

核心事实

时间轴 (近 90 天)

9月12日

Vision Encoder 的核心作用是对齐(alignment),即把视觉空间的信息映射到大语言模型的语义空间

待验证50%
9月11日

Qwen的视觉大模型主要基于语言大模型前接Vision Encoder,处理语音的模型则前接语音Encoder,视觉与语言模型仍相对分离

待验证50%
9月1日

多模态模型的视觉能力通常通过视觉编码器实现,常见方案包括ViT或SigLIP等预训练视觉模型

待验证50%

全部知识事实 (4)

来源文章