概念visual token / 视觉token
视觉 token
通过向量量化器将连续视觉特征离散化得到的 token,可像文本 token 一样参与语言模型的预测与生成。
时间轴 (近 90 天)
10月18日
传统多模态模型会先由视觉编码器(如 ViT)把整张图切成固定数量的 patch,每个 patch 映射为一个视觉 token,再与文本 token 一起送入语言模型,这个过程不可逆。
待验证50%
通过向量量化器将连续视觉特征离散化得到的 token,可像文本 token 一样参与语言模型的预测与生成。
传统多模态模型会先由视觉编码器(如 ViT)把整张图切成固定数量的 patch,每个 patch 映射为一个视觉 token,再与文本 token 一起送入语言模型,这个过程不可逆。