概念硬参数共享

Hard Parameter Sharing

多任务学习中的一种参数共享范式，所有任务共用同一个底层编码器，仅在输出端保留各自的任务头，参数量最省但任务差异大时易互相干扰。

时间轴 (近 90 天)

10月22日

Hard Parameter Sharing 让所有任务共用同一个底层编码器，仅在输出端保留各自任务头，参数量最省、过拟合风险最低，但任务差异大时容易互相干扰。

待验证50%

10月22日

相比 Hard Parameter Sharing，MMoE 在多任务相关性较弱时通常表现更稳，但结构更复杂、训练成本更高，且门控权重需要足够数据才能学好。

待验证50%

Hard Parameter Sharing 让所有任务共用同一个底层编码器，仅在输出端保留各自任务头，参数量最省、过拟合风险最低，但任务差异大时容易互相干扰。

相比 Hard Parameter Sharing，MMoE 在多任务相关性较弱时通常表现更稳，但结构更复杂、训练成本更高，且门控权重需要足够数据才能学好。