模型FastVim
FastVim
基于视觉Mamba架构的轻量级图像分类模型,可从大型基础模型蒸馏预训练权重,在保留语义知识的同时大幅缩减参数量与推理开销
时间轴 (近 90 天)
10月20日
该方法在每个尺度上使用一个Mamba模型以线性时间编码来自冻结基础模型和轻量级FastVim两个来源的特征,随后由联合训练的分类头将编码后的表征融合为单一预测。
待验证50%
10月20日
FastVim是基于视觉Mamba架构的轻量级变体,专为高效图像分类设计,其预训练权重可从大型基础模型蒸馏获得。
待验证50%