神经网络在学习新任务或适应新数据时,不可逆地覆盖旧有权重模式的现象,导致模型丧失之前习得的知识或风格特征,是持续学习领域尚未完全解决的核心难题
缓解灾难性遗忘的策略包括弹性权重巩固(EWC)、数据混合回放、控制学习率与训练步数以及使用 LoRA 等参数高效方法
灾难性遗忘现象由McCloskey和Cohen于1989年正式描述,指神经网络在学习新任务时往往覆盖旧知识