自我进化智能体框架：让Agent实现递归自我改进

智能体（Agent）的能力提升，长期以来依赖模型权重的更新。但一篇题为《Self-Evolving Agent Harness》的研究提出了另一条路径：在模型权重保持不变的前提下，通过修订智能体的软件脚手架来实现自我进化。

什么是 Harness 自我进化

所谓 Harness，指的是包裹在模型外层的软件脚手架，包括提示词（prompts）、记忆机制、工作流和可执行组件。Harness RSI（Recursive Self-Improvement）的核心思路是：不改动模型参数，而是让这套脚手架在反馈驱动的循环中持续修订，且被采纳的修订会跨运行持久保留。

这一框架的价值在于解耦——它把"更新目标"与"提案机制、准入机制"分开处理。研究者进一步区分了几类不同的修改对象：解释性状态的变更，和工具与代码的修订、仓库级控制逻辑、插件组合，各自性质不同，可靠性要求也不同。

递归自我改进（Recursive Self-Improvement, RSI） 是人工智能安全与理论领域的一个核心概念，指系统能够修改自身以提升后续自我修改的能力，从而形成潜在的加速循环。早期讨论多集中在模型权重或代码层面的自我改写，风险在于改进过程可能失控或不可审计。Harness RSI 将这一概念限制在软件脚手架层面：模型参数冻结，只有提示词、工作流等外部组件被修订，因此具备更强的可控性和可回滚性。这一限定使 RSI 从理论思辨转向可工程化的迭代流程，同时保留了“跨运行持久保留”带来的累积效应。

PAC 学习（Probably Approximately Correct learning） 是计算学习理论中的经典框架，用于刻画在有限样本下学习器以高概率获得近似正确假设的条件。持续 PAC 学习则将其扩展到任务分布随时间变化、学习器不断接收新数据的场景，要求模型在适应新任务的同时不遗忘旧能力。论文正是借助这一工具，为 Harness 的持续修订提供泛化与保留的理论边界。

搜索、理论与可靠性保障

论文从进化优化的角度刻画了 Harness 的搜索过程，并用持续 PAC 学习（continual PAC-learning）来分析其可靠性。在明确假设下，分析给出了三个关键结论：

• 期望泛化界：描述进化后的 Harness 在未知任务上的表现上限
• 保留界：以历史回归预算为条件，约束旧能力的保持程度
• 高概率准入规则：使用新鲜的、独立验证数据来判断一次修订是否应被采纳

这套理论的意义在于，它把"自我改进"从一种含糊的工程直觉，变成了有边界条件、可验证的过程。准入规则尤其关键，因为持续修订最大的风险是引入隐蔽的回归。

期望泛化界 描述的是进化后的 Harness 在从未见过的任务上的预期表现上限，通常由假设空间复杂度、样本量和任务分布差异共同决定。它回答了“自我改进后到底能好到什么程度”这一根本问题，避免将偶然成功误认为普遍能力提升。

保留界 则关注旧能力的保持程度。持续修订最大的隐患是“灾难性遗忘”在脚手架层面的变体：一次修改可能提升新任务表现，却悄悄破坏原有功能。保留界以历史回归预算为条件，量化在给定预算内旧能力可被容忍的下降幅度，为修订提供可操作的约束。

高概率准入规则 是理论落地的关键环节。它要求使用新鲜的、独立验证数据来判断一次修订是否应被采纳，而非依赖训练时见过的数据。这样可降低过拟合和隐蔽回归的风险，使“自我改进”从工程直觉转变为有统计保证的决策过程。

对组织与科学的影响

持续性的 Harness 修订会改变知识共享和组织工作流。论文讨论了它对科学可靠性、物理安全和机构问责的影响。当 Agent 的脚手架可以自主演化时，谁来为它的行为负责、如何审计一次具体的修订，都成了新的制度问题。

论文引用了既往工作中的案例来说明模型—Harness 协同设计、分布式执行和插件复用。一个反复出现的结论是：可靠部署要求持续的验证——因为任务分布和评估器本身都在变化，一次通过验证的修订，未必在下一阶段依然安全。

独立保障的三条线

作者强调，学习、运行时权限和后果性操作这三者需要相互独立的保障机制。也就是说，负责自我进化的模块，不应同时拥有执行高风险动作的权限。这种分离思路，与传统的安全关键系统设计一脉相承。

完整的 66 页论述涵盖了相关工作、理论、算法、评估、应用和 Harness RSI 的更广泛影响，代码与补充材料在 https://github.com/zgcagi/Harness-RSI 持续更新。

对于关注 AI 编程、AI 应用和前沿研究的从业者来说，这个方向值得跟踪：它可能意味着，未来的 Agent 改进更多发生在代码和流程层面，而非仅仅等待下一次模型发布。

学习、运行时权限与后果性操作的三权分立，本质上是将安全关键系统设计中的“职责分离”原则引入智能体架构。学习模块负责提出和评估修订，运行时权限模块控制智能体能访问哪些工具和资源，后果性操作模块则执行不可逆或高影响动作。三者独立意味着，即使学习模块被误导或产生恶意修订，也无法直接触发高风险行为。这种设计借鉴了核电站、航空等领域的纵深防御思想，旨在防止单点失效导致系统性风险。