概念Fisher信息融合
Fisher Merging
一种基于Fisher信息矩阵的模型融合方法,通过Fisher信息矩阵为不同参数赋予重要性权重,优先保留对各模型性能贡献较大的参数
时间轴 (近 90 天)
10月8日
Fisher Merging利用Fisher信息矩阵对不同参数赋予重要性权重,偏向于保留对各模型性能贡献更大的参数
待验证50%
10月7日
基于Fisher加权的合并方法(如Fisher Merging)给对输出分布贡献更大的参数赋予更高权重,而非对所有参数等权平均,其计算通常依赖少量校准数据
待验证50%