多模态大模型分阶段训练：能力互斥还是协同进化？

多模态基础模型的分阶段后训练通常串联视觉-语言对齐、推理蒸馏和领域微调，但每个阶段如何影响其他能力仍缺乏系统刻画。一项针对84亿参数模型在日语金融文档上的研究，通过追踪三个训练阶段的性能变化，揭示了阶段间非加性的交互作用：数学蒸馏会覆盖先前获得的金融知识，而领域阶段更多是修复而非安装能力。这些发现对检查点保留和调度策略提出了新挑战。

分阶段训练的能力博弈

研究团队从一个未经微调的基线模型出发，在日语金融文档上依次进行视觉-语言对齐、数学推理蒸馏和领域微调三个阶段，并在五个文本输入基准上评估性能。结果显示，阶段间的贡献不可简单分解：仅进行数学蒸馏会覆盖模型先前习得的金融知识，尽管程序性数学技能得以保留；而领域阶段则表现出“修复”特性——它恢复的能力多于新安装的能力。

这一发现挑战了“多阶段训练必然累积能力”的直觉。在连续适应过程中，不同阶段的目标可能相互冲突，导致模型在获得新技能的同时丢失旧知识。研究者通过跳过阶段的消融实验进一步验证：跳过数学蒸馏阶段虽能保留更多领域知识，却牺牲了数值推理的增益。

视觉-语言对齐是多模态模型训练中的基础环节，其目标是将图像和文本映射到共享的语义空间，使模型能够理解两种模态之间的对应关系。常见做法包括对比学习（如CLIP）或生成式对齐，通过大规模图文对训练模型建立跨模态表征。对齐质量直接影响后续阶段的效果，因为推理和领域知识往往需要建立在良好的跨模态理解之上。在本研究中，视觉-语言对齐作为第一阶段，为模型处理日语金融文档中的图表、表格和文本混合内容奠定了基础，但本身并不直接注入领域知识或推理能力。

知识蒸馏（此处特指数学推理蒸馏）是一种将教师模型的能力迁移到学生模型的技术。在推理蒸馏中，通常使用教师模型生成的推理链或输出分布来训练学生模型，使其习得逐步推理的能力。然而，蒸馏过程可能引入教师模型的偏好或覆盖学生模型已有的知识表征，导致“灾难性遗忘”。本研究中数学蒸馏覆盖金融知识的现象，正是这种风险的体现：模型在强化程序性数学技能的同时，损失了先前对齐阶段获得的领域事实性知识。

检查点选择的任务依赖性

由于各阶段贡献无法独立评估，最佳检查点高度依赖于具体任务。对于需要强金融知识的任务，跳过数学蒸馏的模型可能表现更优；而对于数值推理任务，完整训练流程的中间检查点或许更合适。这种任务依赖性意味着，在实际部署中不能简单采用最终检查点，而应根据下游任务需求动态选择。

这对模型调度策略具有直接启示：与其盲目增加训练阶段，不如精心设计阶段顺序和检查点保留机制，在能力获取与知识保留之间取得平衡。

检查点（checkpoint）是模型训练过程中定期保存的参数快照，用于恢复训练、模型选择或部署。在分阶段训练中，每个阶段结束时或阶段内都会产生多个检查点。传统做法是选取最终检查点或验证集上表现最佳的检查点，但本研究表明，由于阶段间存在非加性交互，不同检查点在不同任务上的表现差异显著。例如，数学蒸馏阶段的中间检查点可能保留了部分金融知识且具备一定推理能力，而最终检查点可能推理更强但金融知识被覆盖。因此，检查点选择需要基于下游任务进行动态评估，而非简单取最后。

消融实验（ablation study）是机器学习中用于评估模型各组件贡献的常用方法，通过移除或跳过某些模块来观察性能变化。本研究中跳过数学蒸馏阶段的消融实验，揭示了该阶段对金融知识的覆盖效应与对数值推理的增益效应之间的权衡。这种实验设计有助于分离各阶段的因果贡献，但由于阶段间存在交互，消融结果本身也依赖于阶段顺序和训练动态，进一步说明了分阶段训练分析的复杂性。

对多模态模型开发的启示

该研究虽以日语金融文档为场景，但其结论具有普适性。多模态基础模型在领域适应过程中，视觉-语言对齐、推理蒸馏和领域微调之间的交互远比预想复杂。开发者需要意识到，分阶段训练不是简单的技能叠加，而是一个能力权衡的过程。

未来，更精细的阶段调度和检查点管理策略可能成为提升模型实用性的关键。同时，该研究也呼吁更多针对不同语言和领域的分阶段训练分析，以建立更通用的指导原则。