概念Negative Transfer
负迁移
迁移学习中,预训练权重不仅未能帮助目标域学习,反而干扰目标域训练效果的现象,是跨域微调失败最常见的深层原因之一
时间轴 (近 90 天)
10月14日
当面对训练中从未共同出现过的规则实例时,符号描述的表现跌至无信息基线以下,而示例方式则保持在基线之上。
待验证50%
10月14日
负迁移是指模型在源任务上学到的知识或先验在应用到目标任务时反而损害了性能。
待验证50%
10月5日
协变量漂移和模型漂移可能引发负迁移,导致额外数据拖累模型表现
待验证50%
9月21日
当两个任务在关键组件上高度重叠时,在一个任务上微调反而可能导致另一个任务的性能退化
待验证50%
9月6日
多任务学习面临负迁移(negative transfer)风险,当任务间的梯度方向冲突时联合训练可能损害单个任务的性能
待验证50%