HMA多智能体交替框架：破解长程机器学习工程的单体瓶颈

长程MLE任务的两大顽疾

基于大语言模型（LLM）的智能体在处理长程机器学习工程（MLE）任务时，普遍依赖所谓的"上下文工程"（context engineering）。开发者通常会构建定制化的harness（框架外壳），用来管理工具调用、技能复用以及积累的经验知识。这类设计在短期内确实能提升智能体表现，但当任务时间跨度拉长时，隐藏的问题开始浮现。

研究者在实验中观察到两个关键现象。其一是长程减速（long-horizon deceleration）：随着单次会话（session）执行时间变长，智能体的推理强度逐渐衰减，任务进展随之放缓。换言之，智能体并不能在一个超长会话里持续保持高质量的思考。其二是框架陈旧（harness staleness）：这些精心设计的定制框架所带来的收益，会随着底层模型本身的能力提升而逐渐消失。模型越强，手工搭建的辅助脚手架反而越显多余。

这两个发现指向一个更深层的问题：针对特定模型版本优化的harness收益可能无法跨版本延续。今天为某个模型调优的框架，到了下一代模型上就可能失效。这促使研究团队转向一种**工作流层面（workflow-level）**的新思路——与其在单个智能体内部堆砌复杂机制，不如让多个智能体在会话之间接力协作，各自基于前者的成果继续推进。

用CR-SMDP建模智能体交替

为了给这种交替协作提供理论基础，研究者将交替的智能体会话建模为上下文重置半马尔可夫决策过程（Context-Reset Semi-Markov Decision Process，CR-SMDP）。这个框架的核心在于：每个会话结束后上下文被重置，但工作成果保留在共享工作区中，下一个智能体从干净的上下文出发继续工作。

基于这一模型，团队做了三件事。首先，建立了交替策略超越单智能体参考上限的充分条件，从数学上论证"接力"为何可能优于"单打独斗"。其次，推导出一个明确的实验预算边界（experiment-budget bound），刻画资源约束下的性能表现。最后，分析了会话上限（session cap）在何种情况下能够保留交替带来的优势。

这种理论建模的意义在于，它不只是提出一个经验性的工程技巧，而是尝试解释为什么上下文重置+多智能体交替能够突破单体智能体的固有天花板。长程减速的本质，可以理解为单一上下文累积过多信息后反而干扰了推理；而定期重置恰好缓解了这一负担。

**半马尔可夫决策过程（Semi-MDP）**是标准马尔可夫决策过程（MDP）的扩展，区别在于动作的执行时间可以是变长的，而非固定的单步时间戳。在智能体会话场景中，每次会话的持续时间（即执行的实验数量）不尽相同，因此Semi-MDP比标准MDP更能准确捕捉会话间的时间异质性。"上下文重置"这一修饰则进一步区分了CR-SMDP与普通Semi-MDP：状态空间被拆分为"持久状态"（工作区中保存的实验结果、代码、模型文件）和"瞬时状态"（单次会话内的上下文信息），重置操作清空后者而保留前者。这种建模方式使研究者可以用严格的数学语言描述"接力是否比单次长会话更优"——当长程减速导致单会话边际收益递减时，每次上下文重置相当于让新智能体以接近初始效率重新启动，从而在理论上突破单体智能体的性能上界。

HMA：共享工作区上的双智能体接力

在理论分析的指导下，研究团队提出了 Humanize MLE Agents（HMA）。它的设计极为克制：让两个智能体在同一个共享工作区上交替作业，每个会话最多执行 k 个实验，会话之间重置上下文。关键在于，HMA 不依赖任何额外的任务专用harness，也不注入先验知识补充。

这意味着HMA把复杂性从智能体内部转移到了工作流的编排上。它不再试图用越来越精巧的脚手架去"喂养"单个智能体，而是通过会话的交替与重置，让智能体群体像人类研究团队轮班接力那样推进任务——这也正是"Humanize"（人性化）命名的由来。每个智能体在有限的实验次数内专注工作，然后把成果交给下一位。

MLE-bench上的实测表现

HMA在MLE-bench基准测试中接受了检验，覆盖75项Kaggle任务。结果相当亮眼：HMA达到了 78.2% 的any-medal率（任意奖牌获得率），刷新了当前最优水平（SOTA）。

更值得关注的是效率对比。相比最强的开源基线方法，HMA在仅使用其四分之一时间预算的情况下，仍将any-medal率提升了 8.0 个百分点。这说明交替框架不仅效果更好，资源消耗也大幅降低——这对于计算成本高昂的长程MLE任务尤为重要。

跨智能体对的通用性

为了验证方法的普适性，研究者测试了六种配置，涵盖五组异构的智能体组合（heterogeneous agent pairs）。结果显示，HMA相较于其组成部分的基线智能体，平均提升了 6.4 个百分点的any-medal率。这说明交替机制并非只对某一特定模型组合有效，而是具备跨组合的通用能力——无论配对的智能体是什么，接力协作都能带来增益。

延伸至内核优化场景

除了标准MLE任务，团队还做了一个补充案例：将HMA应用于内核优化（kernel optimization）。在这个场景中，HMA达到了878个优化周期，与社区排行榜榜首的差距仅 1.6%。这表明HMA的适用边界不止于机器学习工程，还能迁移到更广泛的工程优化问题上。

MLE-bench 是由OpenAI于2024年发布的标准化基准，旨在系统评估LLM智能体在真实机器学习工程任务上的能力。它从Kaggle平台精选了75项历史竞赛任务，涵盖表格数据、计算机视觉、自然语言处理等多个领域。评分标准直接对标Kaggle竞赛的奖牌体系（铜/银/金牌），其中"any-medal率"（any-medal rate）指智能体在所有任务中至少获得一枚奖牌的比例，是衡量整体工程能力的核心指标。与仅考察单一任务准确率的传统基准不同，MLE-bench要求智能体完成完整的数据探索、特征工程、模型训练和提交等端到端流程，每个任务通常设有严格的时间和计算预算限制。这使得它成为评估长程自主推理能力的高难度测试场，也让78.2%这一成绩的含金量更为突出。

对智能体设计的启示

HMA这项工作传递出一个值得玩味的信号：在模型能力快速迭代的当下，针对特定模型手工打磨的复杂框架可能是一种会迅速贬值的投资。与其押注于容易陈旧的脚手架，不如从工作流层面设计更鲁棒、更通用的协作机制。

上下文重置+多智能体交替的组合，用一种近乎"返璞归真"的方式解决了长程推理衰减的问题。它既不需要繁复的先验知识注入，也避免了被单一模型版本绑定。对于正在构建自主智能体系统的开发者而言，这提供了一条兼顾性能与可持续性的新路径——让智能体像人类团队那样轮班接力，或许比打造一个无所不能的超级智能体更现实、更有效。