路由式持续学习：让AI智能体按需调用记忆

大规模部署的AI智能体在持续运行中会反复遇到相似问题，让它们彼此借鉴经验而非每次从零开始，是一种自然的效率优化思路。但难点在于：没有一种记忆保留方式能适配所有场景，也无法预知某段经验对未来哪个问题有用。全局历史记录保留全部细节，却会带来高昂的存储与调用成本，并把可能不相关的经验混在一起；将历史压缩成单一固定表征虽然控制了成本，却可能丢失关键细节。

针对这一矛盾，研究者提出Routed Continual Learning（Routed CL），一种决定如何划分与保留经验的架构。其核心思路是把持续学习视为一个路由问题——不仅选择学习机制，还选择状态簇，而不是全局承诺使用某一种表征。

核心机制：聚类与LLM路由

Routed CL 将过去的轨迹分组为多个簇，每个簇使用一个来自固定记忆系统库中的记忆系统来维护状态。每次运行前，一个基于LLM的路由器会根据问题陈述、记忆系统描述和簇摘要，决定是复用已有簇还是创建新簇。

这种设计的关键在于不预设单一记忆方案。记忆系统库可以包含不同特性的记忆机制，路由器根据当前任务需求动态匹配最合适的记忆方式，从而在保留细节与控制成本之间取得平衡。

Context Memory Adapter 的桥接作用

架构中还引入了 Context Memory Adapter，它在记忆系统与智能体循环之间起中介作用。这一适配器负责将记忆系统的输出转化为智能体可用的上下文信息，确保不同记忆机制都能无缝接入智能体的决策流程。

持续学习（Continual Learning） 是机器学习中研究智能体如何在不遗忘旧知识的前提下顺序学习新任务的分支，其核心挑战是“灾难性遗忘”（catastrophic forgetting）：模型在新任务上更新参数后会覆盖旧任务的表征。传统持续学习方法（如正则化、回放缓冲、参数隔离）多针对模型权重设计，而本文讨论的是上下文层面的持续学习——智能体的历史经验以文本形式保存在外部记忆或上下文中，不涉及梯度更新。这一区分很关键：它意味着“遗忘”体现为上下文被截断或压缩导致细节丢失，“学习”则体现为把有用经验重新注入提示词。Routed CL 正是在这一非参数化的设定下，用检索与路由替代参数固化，因此其成本主要来自上下文长度和API调用，而非训练算力。

In-Context Learning（ICL） 指不修改模型参数、仅通过提示词中提供的示例或历史轨迹让模型完成任务的机制。在智能体场景中，ICL 历史通常是把此前成功或失败的完整轨迹拼接进上下文，让模型模仿或规避。其优点是实现简单、无需训练，且能保留原始细节；缺点是上下文窗口有限、成本随历史线性增长，且无关经验会稀释注意力、引入噪声。本文的 Global ICL 基线即把全部历史塞入上下文，因此成本最高；而“仅ICL的聚类方法”则先对历史聚类、只取相关簇的原始轨迹，是介于两者之间的对照。理解这三种上下文构造方式的成本—信息权衡，是读懂 Routed CL 收益来源的前提。

实验设计与关键数据

研究团队在一个异构任务流上评估了该架构，该流交错包含来自六个 CL-Bench 任务的301个实例，以及来自 τ³-Bench 的97个银行领域实例。实验覆盖四种语言模型，并进行了五次匹配的 rollout。

结果显示，与单一的全局上下文学习（ICL）历史相比，Routed Continual Learning 将归一化奖励提升了可达最大归一化奖励的15-30%。同时，其平均归一化奖励高于仅使用ICL的聚类方法，并且相对于 Global ICL 将估算的API成本降低了65-72%。

这些数据表明，路由式持续学习在效果和成本两个维度上都带来了可测量的改进。

为什么路由优于全局表征

传统方法要么保留全部历史（昂贵且混杂），要么压缩为单一表征（廉价但丢细节）。Routed CL 的洞察在于：不同问题可能需要不同粒度的经验。通过聚类划分，每个簇可以专注于特定类型的经验，而LLM路由器则充当“调度员”，根据问题特征选择最相关的经验簇。

这种方法避免了对全局表征的强制统一，也避免了全历史带来的成本膨胀。实验中的API成本降低幅度说明，按需调用记忆系统可以显著减少不必要的上下文长度。

对持续学习范式的启示

这项工作的意义在于将持续学习重新定义为路由问题，而非单纯的记忆压缩或扩展问题。它提示我们，智能体的经验管理可以像计算资源调度一样，根据任务动态分配。

当然，该方法也依赖于LLM路由器的判断准确性，以及记忆系统库的设计质量。未来如何自动扩展记忆系统库、如何处理簇之间的迁移学习，仍是值得探索的方向。但就当前结果而言，Routed CL 为大规模智能体的经验复用提供了一条兼顾效果与成本的新路径。