[控场AI]
· 5 分钟阅读· 2,705 字

EvoSkill v2:有状态进化器如何让AI智能体自我改写技能

EvoSkill v2:有状态进化器如何让AI智能体自我改写技能

EvoSkill v2 用三智能体系统让智能体在运行中自行改写技能指令,跨基准显著提升通过率且成本更低。

EvoSkill v2 提出一种不依赖更强基座模型或提示工程的技能优化路径:由基准适配器、求解器和进化器三个智能体协作,仅改写技能指令文本,保持模型与运行框架不变。其核心创新是将进化器实现为贯穿整轮运行的有状态编码智能体,配备 bash 工具持续累积对求解器弱点的判断,区别于单次调用与逐轮重启两种主流设计。在 SpreadsheetBench v2 和 τ³-bench banking 上,留出集通过率分别比最强基线高 7.7 和 5.4 个百分点,且单位收益的进化成本更低。Claude Haiku 5.5 同时驱动求解器与进化器时提升最高达 21.5 个百分点,表明弱模型也能自我进化。方法上,系统接受每个 epoch 的技能而非基于噪声分数择优,体现出对累积改进的信任。

AI智能体的能力提升,通常依赖更强的基座模型或更精细的提示工程。但一项名为 EvoSkill v2 的研究提出了另一条路径:让智能体在运行过程中自行改写被赋予的“技能”(即指令),而模型本身和运行框架保持不变。这套三智能体系统在 SpreadsheetBench v2 和 τ³-bench banking 两个基准上,将留出集通过率分别提升了 7.7 和 5.4 个百分点,同时单位收益的进化成本低于两个主流基线。

EvoSkill v2 原始来源截图

三智能体分工:适配、求解、进化

EvoSkill v2 的运作流程围绕三个角色展开。用户先描述一个基准任务并提供评分器(grader),一个“基准适配器”将其转化为基准专属插件;随后“求解器”(solver)尝试完成任务,而“进化器”(evolver)读取求解器的训练轨迹,在每个 epoch 重写技能指令。

这种设计的核心在于解耦:被优化的对象是技能文本,而非模型权重或运行框架。这意味着同一套进化机制可以迁移到不同模型上,而不需要重新训练。

留出集(holdout set)与通过率是评估此类方法时的关键指标。留出集指在训练/进化过程中未被使用、仅用于最终评估的数据子集,用以检验技能改进是否具备泛化能力,而非对训练轨迹的过拟合。通过率则是任务成功完成的样本占比。文中“留出集通过率提升 7.7 个百分点”意味着进化后的技能在未见任务上带来的绝对成功率增益,这比训练集上的分数更能反映方法的真实价值。

评分器(grader) 是驱动技能进化的信号源。它接收求解器的输出并给出可量化的分数或判定,进化器据此判断哪些技能表述有效、哪些导致失败。评分器的可靠性直接决定进化方向:噪声大或过于粗糙的评分会让进化器学到错误规律,这也是后文强调“接受每轮技能而非在噪声中择优”的原因之一。

有状态进化器:一次运行,持续记忆

研究团队在调研现有技能优化器后,指出了两种常见设计:一是像 SkillOpt 那样用一连串单次模型调用完成优化;二是像 SkillBoost 那样每轮都从零开始的新智能体。EvoSkill v2 选择第三条路——将进化器实现为一个贯穿整轮运行的有状态编码智能体,配备 bash 工具持续工作。

有状态带来的直接好处是记忆的连续性。进化器不必在每一轮重新理解任务背景和此前失败的教训,而是可以累积对求解器弱点的判断。这类似于人类工程师在同一个调试会话中逐步缩小问题范围,而非每次重启都丢失上下文。

有状态(stateful)与无状态(stateless)智能体的区别在于是否在多次交互间保留内部状态。无状态设计每次调用都从零开始,只能依赖本次输入;有状态智能体则维护一份持续更新的上下文(如对话历史、文件系统、工作记忆),使其能在同一会话中累积观察、修正假设。EvoSkill v2 的进化器正是借助 bash 工具把中间分析写入持久环境,从而跨越 epoch 保留对求解器弱点的判断。这种设计牺牲了一定的可并行性,换来了更连贯的优化轨迹。

实测增益:跨基准与跨反馈设置的优势

在细粒度真值(fine-grained ground truth)条件下,EvoSkill v2 进化出的技能将留出集通过率提升至高于 SkillOpt 与 SkillBoost 中较强者的水平:SpreadsheetBench v2 上高出 7.7 个百分点,τ³-bench banking 上高出 5.4 个百分点。

成本效率同样值得关注。在两个基准和两种反馈设置下,EvoSkill v2 的进化器每获得一个百分点的留出集通过率提升,所花费的成本都低于两个基线的优化器。这说明有状态设计不仅效果更好,在算力开销上也更具优势。

SpreadsheetBench v2 与 τ³-bench banking 是两类互补的智能体评测基准。前者聚焦电子表格操作,要求智能体理解表格结构、执行公式与数据变换,考验精确的多步操作能力;后者属于 τ-bench 系列的工具调用基准,模拟银行客服场景,要求智能体在遵守业务规则的前提下调用 API 完成用户请求,考验指令遵循与工具使用。两者分别代表“结构化数据处理”和“规则约束下的工具调用”,跨这两个基准取得增益,说明技能进化机制并非只对单一任务类型有效。

细粒度真值(fine-grained ground truth) 指评分时不仅判断最终答案对错,还对中间步骤或部分结果给出细分反馈。与之相对的粗粒度反馈可能只有成功/失败二元信号。细粒度信号为进化器提供了更丰富的梯度信息,使其能定位具体失败环节;文中同时测试两种反馈设置,正是为了检验方法在反馈稀疏时是否依然成立。

弱模型也能自我进化

一个更具启发性的结果是:能力较弱的模型也能通过这套机制提升自身技能。在 τ³-bench banking 实验中,当 Claude Haiku 5.5 同时驱动求解器和进化器时,技能提升幅度最高达到 21.5 个百分点。

这一数字的意义在于,技能进化不必依赖顶级模型作为“教练”。较弱的模型在读取自身轨迹、改写指令的过程中,同样能获得显著收益。对于成本敏感的实际部署场景,这提供了一种用同一模型完成自我改进的可行方案。

设计取舍:接受每一轮技能,而非在噪声中挑选

EvoSkill v2 在方法上还有两个细节值得注意。其一,团队测量了求解器在不同尝试之间的轨迹波动程度,并给进化器在每项训练任务上多次尝试的机会。其二,系统接受每个 epoch 产出的技能,而不是基于带噪声的分数在多个候选间做选择。

后一点尤其反映了一种工程判断:在评分信号不稳定的情况下,基于噪声分数的“择优”可能引入误导,而持续接受并迭代反而更稳健。这与有状态进化器的整体哲学一致——相信累积改进,而非单点最优。

对技能优化范式的启示

EvoSkill v2 的价值不只在两个基准上的数字。它展示了技能层面优化的一个方向:把指令当作可进化的对象,用有状态的智能体持续打磨,而不是依赖一次性生成或逐轮重启。成本效率和弱模型自我提升的结果,则为这一方向在真实场景中的可行性提供了初步证据。

当然,这套方法依赖可靠的评分器和基准适配环节,技能进化的上限也受限于评分信号的质量。后续研究若能验证其在更开放、反馈更稀疏的任务上的表现,将更有说服力。

#EvoSkill v2#AI智能体技能进化#有状态进化器#技能优化#SpreadsheetBench#τ³-bench#智能体自我改进
分享:

相关推荐