[控场AI]
概念Negative Transfer

负迁移

迁移学习中,预训练权重不仅未能帮助目标域学习,反而干扰目标域训练效果的现象,是跨域微调失败最常见的深层原因之一

时间轴 (近 90 天)

10月14日

当面对训练中从未共同出现过的规则实例时,符号描述的表现跌至无信息基线以下,而示例方式则保持在基线之上。

待验证50%
10月14日

负迁移是指模型在源任务上学到的知识或先验在应用到目标任务时反而损害了性能。

待验证50%
10月5日

协变量漂移和模型漂移可能引发负迁移,导致额外数据拖累模型表现

待验证50%
9月21日

当两个任务在关键组件上高度重叠时,在一个任务上微调反而可能导致另一个任务的性能退化

待验证50%
9月6日

多任务学习面临负迁移(negative transfer)风险,当任务间的梯度方向冲突时联合训练可能损害单个任务的性能

待验证50%

全部知识事实 (5)

来源文章