[KongchangAI]
ConceptCatastrophic Forgetting / 灾难性遗忘问题

灾难性遗忘

神经网络在学习新任务或适应新数据时,不可逆地覆盖旧有权重模式的现象,导致模型丧失之前习得的知识或风格特征,是持续学习领域尚未完全解决的核心难题

Timeline (last 90 days)

Aug 24

缓解灾难性遗忘的策略包括弹性权重巩固(EWC)、数据混合回放、控制学习率与训练步数以及使用 LoRA 等参数高效方法

Unverified50%
Jul 17

灾难性遗忘现象由McCloskey和Cohen于1989年正式描述,指神经网络在学习新任务时往往覆盖旧知识

Unverified50%

All Facts (2)

Source Articles