持续学习

持续学习是机器学习的一个子领域，研究如何让模型在持续接收新任务或新数据的同时不遗忘已有知识

灾难性遗忘是神经网络领域的经典难题，早在1990年代研究者就发现神经网络在新任务上持续训练时旧任务性能会急剧下降

以 LLM 为核心的语义智能体通过理解任务意图而非记忆操作路径，理论上能大幅提升跨版本的鲁棒性

偶发性故障的内存条可能交替产生正确和错误的计算结果，导致神经网络训练中梯度计算偶发性偏差，影响模型收敛性且不触发硬件告警

数据漂移或概念漂移指真实世界数据分布发生变化而模型仍基于旧数据训练时性能会显著下降，业界采用持续学习和主动学习策略应对

续训是在新增数据上持续训练以保持模型知识更新的方法

SFT微调有效但导致小模型通用知识下降，即灾难性遗忘现象，因小模型容量瓶颈突出

持续学习（Continual Learning）是AI在不遗忘已有知识前提下持续从新经验学习的能力，当前大语言模型受限于训练后参数冻结的静态权重

统一训练框架被认为能提供更强的持续学习起点，是因为所有阶段共享同一目标函数，模型参数始终处于同一个优化景观中。

持续学习面临灾难性遗忘的经典问题：新知识可能覆盖旧知识。

没有单一信号能独立判定一条声明的真伪，持续学习系统需要构建多层信号融合的架构。

Sleep框架提出了一种让LLM在持续学习过程中保留既有知识的新路径，其核心思路借鉴了生物睡眠期间记忆巩固的机制。

对于代码审查场景，持续学习可能的数据来源包括提交历史、代码变更模式、PR 讨论记录以及开发者对评论的反馈。

持续学习在软件工程中通常指系统根据新数据动态更新模型或规则，而不需要完整重新训练。

5.3个百分点的中位数提升说明当前模型更多是在“局部修补”，尚未形成跨层级的知识沉淀，这是持续学习与单轮自我修正之间的关键差别。

RCSD的训练框架具有持续学习特性，能够适应特定领域的数据分布。

传统持续学习在无样本设定下易发生灾难性遗忘，覆盖先前知识。

论文将持续学习中的 OOD 检测问题归纳为两个约束：(i) 在不发生灾难性遗忘的前提下学习任务序列；(ii) 在没有过去任务 ID 数据可访问的情况下识别 OOD 样本。

TA-KAN 是一个面向无回放（rehearsal-free）持续学习场景的框架，旨在同时减少对旧任务的遗忘并准确识别分布外（OOD）样本。

在持续学习中，标准置信度分数会随任务推进而系统性偏移，模型对近期任务的输入过度自信，对旧任务和真正未知的输入给出混乱的置信度。