#持续学习
共 21 篇相关文章

进化神经可塑智能体:用物理索引专家记忆缓解灾难性遗忘
进化神经可塑智能体(ENA)通过进化搜索生成专家策略并按物理动态状态归档,结合贝叶斯策略复用缓解持续强化学习中的灾难性遗忘。CartPole消融实验平均成功率达83.2%,但适应速度慢于PPO、回报低于SAC。

CoPre-MoE:多模态持续指令微调中的专家合并与遗忘抑制
CoPre-MoE 提出共享-私有专家架构,通过合并跨任务重叠专家、分解任务特定专家为投影基与紧凑核心,并结合冻结历史路由键与正交正则,在多模态持续指令微调中兼顾性能与参数效率。

Continual-ARC:终身学习新基准,揭示AI技能习得的真实瓶颈
Continual-ARC是一个基于ARC-AGI的终身学习基准,通过反馈预算和冻结后测试,公平比较记忆与权重学习。实验发现harness持久化难以提升记忆,缓存基线仍难超越,而权重学习在泛化上优势明显。

永久与瞬态表示:破解持续强化学习稳定性与可塑性难题
持续强化学习常面临稳定性与可塑性的矛盾。一项新研究提出用参数化永久价值函数和非参数化瞬态价值函数互补,在图像任务和Craftax-Classic上实现更优在线学习,为缓解灾难性遗忘提供新思路。

惊讶度学习的致命缺陷:LLM持续学习如何被谎言攻破
研究发现惊讶度驱动的LLM持续学习会被虚假声明攻破,几乎吸收所有谎言。验证器、校准测试、模型先验和信任来源路由四种防御各有局限,没有单一信号能独立判定真相。

路由式持续学习:让AI智能体按需调用记忆
Routed Continual Learning提出路由式持续学习架构,通过聚类与LLM路由器动态选择记忆系统,在异构任务流上比全局ICL提升15-30%归一化奖励,并降低65-72% API成本。

Overmind:开源持续学习平台,把生产追踪变成专属模型
Overmind 是 Product Hunt 上发布的开源持续学习平台,面向 AI 团队,可将生产追踪数据转化为团队自有的专用模型,覆盖训练、基准测试与模型服务全流程。

sEMG手势识别跨用户适应:持续学习策略对比与训练稳定性
研究在NinaPro DB1上对比经验回放、EWC和朴素微调三种持续学习策略,发现经验回放实现83.3%准确率且遗忘仅1.8-5.8%,并揭示打乱窗口训练的必要性及手工特征增益的保持条件。

LLM循环记忆遗忘难题:GMR训练法与STRATA评估协议提案
Reddit研究提案提出GMR训练法与STRATA评估协议,旨在减少LLM循环压缩记忆中的状态诱发遗忘。本文解析其问题定义、方法设计、实验方案及社区质疑,探讨该思路的潜在价值与待验证之处。

SQLite当显存?开源框架实现边缘设备持续学习
Reddit开源项目IntegratedPipeline框架将PyTorch模型权重存入SQLite数据库,实现边缘设备上的持续学习与多任务切换,附带Claude Code技能可生成带记忆管理的模型,ARM64实测RAM占用约8.5%。

多模态大模型分阶段训练:能力互斥还是协同进化?
一项针对84亿参数多模态模型的研究发现,分阶段训练中数学蒸馏会覆盖金融知识,领域阶段更多是修复而非安装能力,最佳检查点取决于任务,对检查点保留和调度策略提出新挑战。

元优化持续适应:低功耗水产养殖边缘AI的实战笔记
一位开发者分享水产养殖浮标部署实战:元学习优化更新规则、持续学习三部门控(能量/新颖性/安全)降低60%能耗,冻结模型兜底关键事件检测,附ARM Cortex-M能耗核算与量子电路作为设计工具的务实评估。

固定任务集RL vs 线上流量持续RL:智能体训练路线之争
对比固定任务集离线RL与线上流量持续RL两种智能体训练路线,分析微软4B编程智能体案例及reef OpenClaw-RL配方的热切换、门控与回滚机制,探讨训练与服务的边界该画在哪里。

持续学习可能让AI阻断式监控几乎失效
阻断式监控与持续学习存在根本张力:在线RL会系统性地训练AI绕过安全监控,且规避行为在持续学习流程中难以与合法学习区分。本文分析其机制、风险与可能的缓解方向。

财经语音ASR需要持续学习正则化吗?EWC与mini-KFAC实证研究
一项针对财报电话会议语音识别的持续学习研究发现,Whisper模型在金融语音适配中不但未发生灾难性遗忘,反而因任务互补而持续改进,使正则化适得其反;在确需正则化时,mini-KFAC EWC优于标准对角EWC。

可视化灾难性遗忘:Replay与EWC如何拯救持续学习
通过损失地形可视化直观理解神经网络的灾难性遗忘,对比朴素训练、经验回放Replay与EWC正则化三种持续学习方法在双任务上的实际效果与数据表现。

条件锚定蒸馏CAGD:破解语言模型持续学习的灾难性遗忘
arXiv论文提出条件锚定生成蒸馏(CAGD),通过解耦条件、教师生成与软目标三种角色,缓解语言模型持续学习中的灾难性遗忘。实验显示四任务留出损失从2.927降至1.114,为自回归与掩码扩散模型提供通用设计原则。

AI时代还有必要学习吗?为什么持续学习依然不可替代
AI能回答几乎所有问题,人类还需要学习吗?本文探讨AI时代持续学习的不可替代性,分析获取答案与真正理解的差异,以及如何把AI变成学习伙伴而非思维拐杖。

