[控场AI]
模型FastVim

FastVim

基于视觉Mamba架构的轻量级图像分类模型,可从大型基础模型蒸馏预训练权重,在保留语义知识的同时大幅缩减参数量与推理开销

时间轴 (近 90 天)

10月20日

该方法在每个尺度上使用一个Mamba模型以线性时间编码来自冻结基础模型和轻量级FastVim两个来源的特征,随后由联合训练的分类头将编码后的表征融合为单一预测。

待验证50%
10月20日

FastVim是基于视觉Mamba架构的轻量级变体,专为高效图像分类设计,其预训练权重可从大型基础模型蒸馏获得。

待验证50%

全部知识事实 (2)

来源文章