共 1 篇相关文章
多模态大模型多图推理成本高昂,mmVB提出按需分配视觉token预算的即插即用方案,仅增1.6M参数即减少9倍视觉token,首token时间快5倍,prefill FLOPs少7倍,并在八个基准上保留94.4%全分辨率精度。