概念模型合并 / Model Merge
Model Merging
将两个或多个已训练模型的权重按特定算法融合以生成新模型的技术，无需重新训练。常见方法包括SLERP、TIES-Merging、DARE等，因成本极低而在开源社区广泛流行。
核心事实
时间轴 (近 90 天)
10月8日
模型融合（Model Merging）直接在参数层面将多个模型组合成单一模型，从而在推理阶段只需一次前向计算，相比多模型集成（ensemble）无需同时运行多个模型
待验证50%
9月24日
通过合并多个已训练模型的参数来生成新的权衡组合被证明是有帮助的
待验证50%
9月24日
参数空间的线性插值未必对应目标性能的线性插值，模型能力在合并后可能出现非线性损耗
待验证50%
8月31日
运行时改进的改进上限受限于基座模型的固有能力，模型无法通过运行时优化突破其预训练所获得的知识和推理能力边界
待验证70%
全部知识事实 (5)
已验证
模型合并（Model Merging）通过在参数空间对不同版本权重进行线性插值或球面插值（SLERP），可在不重新训练前提下融合不同版本能力特征
75%待验证运行时改进的改进上限受限于基座模型的固有能力，模型无法通过运行时优化突破其预训练所获得的知识和推理能力边界
70%待验证模型融合（Model Merging）直接在参数层面将多个模型组合成单一模型，从而在推理阶段只需一次前向计算，相比多模型集成（ensemble）无需同时运行多个模型
50%待验证通过合并多个已训练模型的参数来生成新的权衡组合被证明是有帮助的
50%待验证参数空间的线性插值未必对应目标性能的线性插值，模型能力在合并后可能出现非线性损耗
50%