ConceptCatastrophic Forgetting / 灾难性遗忘问题
灾难性遗忘
神经网络在学习新任务或适应新数据时,不可逆地覆盖旧有权重模式的现象,导致模型丧失之前习得的知识或风格特征,是持续学习领域尚未完全解决的核心难题
Timeline (last 90 days)
Aug 24
缓解灾难性遗忘的策略包括弹性权重巩固(EWC)、数据混合回放、控制学习率与训练步数以及使用 LoRA 等参数高效方法
Unverified50%
Jul 17
灾难性遗忘现象由McCloskey和Cohen于1989年正式描述,指神经网络在学习新任务时往往覆盖旧知识
Unverified50%