概念
mmVB
一种轻量级、即插即用的多模态大模型视觉token压缩模块，核心思想是按需分配（Visual Tokens on Demand）：根据查询和跨图像上下文动态为每张图分配不同的视觉token预算，仅增加约1.6M可训练参数，无需重新训练基础模型。
时间轴 (近 90 天)
10月14日
mmVB是一个轻量级、即插即用的视觉token按需分配模块，只增加1.6M可训练参数，不需要重新训练基础模型，也不需要在推理时访问注意力矩阵。
待验证50%
10月14日
mmVB的核心思想是按需分配视觉token预算：根据查询和跨图像上下文，动态给每张图分配不同的token预算，而非对每张图用统一压缩率。
待验证50%
10月14日
在八个多图推理基准上，mmVB将视觉输入token减少9倍，实现5倍更快的首token时间（TTFT）和7倍更少的prefill FLOPs，同时保持全分辨率精度的94.4%。
待验证50%
10月14日
94.4%的精度保留是跨八个基准的平均表现，而非单一任务结果，说明mmVB的收益具有普适性。
待验证50%
10月14日
mmVB的思路可延伸到视频理解、多模态RAG等更复杂场景。
待验证50%
全部知识事实 (5)
待验证
mmVB的核心思想是按需分配视觉token预算：根据查询和跨图像上下文，动态给每张图分配不同的token预算，而非对每张图用统一压缩率。
50%待验证在八个多图推理基准上，mmVB将视觉输入token减少9倍，实现5倍更快的首token时间（TTFT）和7倍更少的prefill FLOPs，同时保持全分辨率精度的94.4%。
50%待验证94.4%的精度保留是跨八个基准的平均表现，而非单一任务结果，说明mmVB的收益具有普适性。
50%待验证mmVB是一个轻量级、即插即用的视觉token按需分配模块，只增加1.6M可训练参数，不需要重新训练基础模型，也不需要在推理时访问注意力矩阵。
50%待验证mmVB的思路可延伸到视频理解、多模态RAG等更复杂场景。
50%