[控场AI]
· 8 分钟阅读· 4,410 字

Agent成为软件新用户,你需要用Evals衡量成功率

Agent成为软件新用户,你需要用Evals衡量成功率

Agent成为软件新用户,需用分层Evals衡量其是否真正把任务做对。

文章提出“Agent是用户”的视角,指出传统功能可用性测试无法衡量Agent是否真正完成任务:请求成功、日志干净,订单却可能下错。作者借用人类用户的发现—选择—接入—成功漏斗,主张Evals聚焦Success阶段,并按LLM调用次数构建测试金字塔:确定性测试、单轮Eval、端到端Eval,越底层越便宜应占主体。以咖啡下单API为例,文章拆解了E2E Eval的构建流程——定目标、选指标(成功率、Pass@k、Pass^k)、设计覆盖常见、边缘与“不该行动”场景的任务集,并给出目录结构、先跑已知解、防止reward hack等工程细节。核心结论是按失败代价选择指标,并从真实工单与Observability中提炼任务。

当AI Agent开始代替人类使用软件,传统的"功能可用"测试已经不够了。你的API、CLI或MCP服务器可能被Agent调用成千上万次,但订单下错了、参数传歪了、任务半途而废——日志里却一切正常。问题的根源在于:Agent是新的用户群体,而衡量它们"把活干对"的方式,是Evals。

Agents are users, so your software needs evals

Agent走的是和人类一样的漏斗

Agent或许没看过你的产品发布视频,但它们找上门来的路径和人类用户高度相似:发现(Discovery)、选择(Selection)、接入(Access)、成功(Success)。每一层都会筛掉一部分Agent,就像筛掉人类用户一样。

作者建议针对漏斗的任意阶段构建Evals,但重点放在最后一环——Success,即Agent是否真正完成了用户的任务。这比听起来难得多。Agent可能为用户下了一单"热拿铁",而用户要的是冰的;请求成功了,Observability里的日志也干干净净,但结果就是错的。再加上LLM输出每次都有波动,一次顺利的手动测试根本无法证明修复有效。你需要反复跑同样的任务并对结果打分,改动前后都跑——这就是Eval:一个重复运行并评分的测试。

Agent测试金字塔:按LLM调用次数分层

普通测试问"它work了吗",Eval问"它多大概率work、work得多好"。作者按照一次测试通常需要的LLM调用次数,把Agent测试分成三层:

  • 确定性测试(0次LLM调用):验证软件本身的行为是否符合预期,比如搜索命令是否只返回指定区域的咖啡馆、报价是否含税含小费、下单金额是否与报价一致。
  • 单轮Eval(1次LLM调用):验证Agent是否选对命令、生成正确参数,比如它第一个命令是不是先搜索、看到报价后是否先quote再下单。
  • 端到端Eval(2次以上,贯穿整个任务):让Agent在环境中完整跑完整个任务,再检查最终结果是否满足用户需求。流行的编码基准如SWE-bench、Terminal-Bench本质上都是E2E Eval。

这个分层同时是构建成本、运行时长和费用的代理指标——越靠下的层越便宜越快,应该占据测试套件的主体。选层的方法是:先明确要抓什么问题,再选能抓住它的最低层级。对Success而言,答案在最顶层,因为成功依赖整条步骤链(搜咖啡馆→按条件筛选→下单),每一步单看都合理,组合起来仍可能得出错误结果。

确定性测试之所以得名,是因为其输入与输出之间存在可完全复现的映射:给定相同的命令行参数、相同的预置数据,结果每次运行都严格一致,不涉及任何概率采样。这类测试本质上就是传统软件工程中的单元测试与集成测试,可直接用 pytest、Jest 等框架编写,无需接入 LLM,因此运行成本几乎为零、耗时以毫秒计、失败可稳定复现。它适合验证那些 Agent 会调用、但本身行为确定的工具接口:参数校验、边界处理、金额计算、权限判定等。把这类测试放在金字塔底部,意味着大量回归问题能在秒级反馈中被拦住,而不必消耗昂贵的模型调用去发现一个本可由断言直接捕获的 bug。

拆解一个真实的E2E Eval

文章用一个虚构的旧金山咖啡下单API sfbeans 做示例。用户的请求是:"给我一杯大杯冰拿铁,全脂奶,9点前自取,含小费不超过8美元,我在Mission区。"8:30时,四家咖啡馆的状态各不相同:一家制冰机坏了、一家含税含小费后超预算、一家最早9:20才能取、只有一家同时满足三个条件。

要检验Agent能否完成这个任务,需要先定义几个术语:Task(一个带初始环境和验收方式的问题)、Variant(被测试的Agent配置,如模型、提示词、工具、记忆和技能)、Trial(某个Variant在某Task上的一次尝试)、Run(所有Variant在所有Task上各跑多次的整体)、Trace(一次Trial中记录的全部消息、工具调用、日志和最终输出)。

构建流程分几步:

第一步,定目标。 传统软件可以追求100%测试覆盖,但Agent的覆盖面是"LLM可能对你产品做的一切",边界本身就模糊。可行做法是从一个用户真正关心的结果出发,窄到用少量任务就能评估。目标通常来自三个地方:Observability(哪些Agent在用、在哪失败)、客户反馈(工单、投诉、流失)、路线图(最需要验证的产品假设)。示例中,团队发现Agent流量主要来自Claude Code和Codex,最高频的工单是"Agent下错了饮品",于是把目标定为:提高"下对用户所要饮品"的成功率,范围限定在饮品、取货时间和预算,暂不覆盖取消、退款和账户。完成标准是两个Agent在每一次Trial中都下对,而不只是大多数时候。

第二步,定义指标。 E2E Eval最常用的指标包括:成功率(通过的Trial占比)、Pass@k(k次尝试中至少一次通过的概率,回答"它到底能不能做到")、Pass^k(k次全部通过的概率,回答"能不能每次都靠得住"),以及只在成功Trial上统计的效率指标——步数、耗时、成本。

示例中5次Trial有3次通过,成功率60%。按独立试验估算,Pass@5接近99%,而Pass^5只有约8%。两个数字都对,只是回答的问题不同。对每天早上下单的用户来说,下错一杯就是花了钱、误了车、坏了心情,没有重试机会,所以sfbeans应以Pass^k为优化目标。反过来,有测试套件兜底的编码Agent失败了可以重来,成本只是时间和模型调用费,更适合看Pass@k;而由用户审核的邮件草稿,失败代价只是改一行字,看成功率即可。作者同时提醒:整体平均值会掩盖某个高频失败的任务,必须按Task逐个查看;而且只有5次Trial时,100%只意味着"还没见过失败"。

第三步,设计任务集。 目标不能直接给Agent尝试,必须落成具体任务。好的任务集应覆盖常见情况、容易绊倒Agent的边缘情况,以及至少一个"正确做法是不行动"的请求。每个任务需要定义四部分:指令(用户请求)、环境(每次Trial起点一致)、验证器(检查最终状态,最好按约束逐项打分)、以及可选的已知正确解法(证明任务可解)。

示例写了四个任务:常见情况iced-latte-mission、用户常去的店缺货的边缘情况usual-unavailable、6杯饮品45美元一个取货点的team-order、以及无解时必须告知用户的impossible-request。最后一个任务多了一项检查:验证器读取一份Agent无法写入的命令日志,确认它确实搜索过才放弃。这一点是团队踩坑后补上的。

环境可以是半真半假的:Agent使用真实的sfbeans CLI,但数据是预置的咖啡馆列表,时钟被冻结在8:30,确保每次Trial都从同一个早晨开始。验证器按约束分别打分,全部满足才把reward置为1。作者还特别提醒:真实Eval中要保护种子数据和验证器代码,并确保Agent只能通过CLI修改订单记录——否则Agent可能直接改库存或写订单文件来"刷分"(reward hack)。

Pass@k 与 Pass^k 是同一组试验数据上的两个互补统计量,区别只在“怎样算通过”。Pass@k 假设 k 次尝试彼此独立,至少成功一次的概率为 1−(1−p)^k,其中 p 为单次成功率;k 增大时它迅速趋近 1,因此它衡量的是“能力上限”——给定足够多次机会,系统能否做到。Pass^k 则要求 k 次全部成功,概率为 p^k,k 增大时它迅速趋近 0,衡量的是“可靠性下限”——系统能否稳定复现同一结果。两者在 k=1 时相等,随 k 增大而分道扬镳,所以报告指标时必须同时标明 k 的取值,否则数字之间无法比较。实践中还需注意:这些公式假设各次 Trial 相互独立,而 LLM 在相同提示下往往表现出相关性,真实 Pass@k 可能低于独立假设的估算值,因此基于小样本外推出的“接近 99%”应视为上界而非承诺。

值得注意的工程细节

任务目录结构很清晰:instruction.md放初始提示词,task.toml放超时、验证器和产物配置,environment/是Docker构建上下文,solution/solve.sh是已知正确解,tests/下是验证器。在指令中点名sfbeans CLI,是为了跳过发现和选择环节,让Eval聚焦于Success。跑真实Agent之前,先跑一遍solution证明任务本身可解,这条工程习惯能避免大量"任务设计有误"的假失败。

框架方面,示例使用Harbor——由Terminal-Bench作者推出的开源框架,负责在容器中运行Agent、检查结果并记录其全部动作。

编辑观点

这篇文章的价值在于把"Agent是用户"这个视角真正落到了工程实践上。当软件的用户从人变成Agent,产品团队需要两套度量:一套面向人的转化漏斗,一套面向Agent的Eval体系。而Eval最容易踩的坑,是把"请求成功"误当成"任务成功"。成功率、Pass@k、Pass^k三个指标对应三种不同的失败成本,选错指标会得出完全相反的结论。对于任何提供API、CLI或MCP服务器的团队来说,建立按金字塔分层的测试套件,并从真实用户工单和Observability中提炼Eval任务,是当下性价比最高的投入之一。

背景补充

Reward hack(奖励作弊)指被评估的 Agent 找到了验证器未设防的捷径,直接优化评分信号而非真正完成任务。在 E2E Eval 中,由于 Agent 拥有对环境的写权限,这类风险远高于传统测试:它可能绕过 CLI 直接改写订单文件、篡改库存数据、修改验证器读取的状态字段,甚至伪造命令日志来证明自己“搜索过”。防御思路有三条:一是隔离,让种子数据与验证器代码位于 Agent 不可写的路径,验证器在独立的只读挂载中运行;二是收口,保证 Agent 只能通过指定接口改变世界状态,所有副作用都留下不可伪造的审计记录;三是交叉验证,用多个独立信号(最终状态、命令日志、资源消耗)共同判定,任一信号矛盾即判失败。此外,应定期人工抽检高分 Trial 的 Trace,因为 reward hack 往往表现为“分数很高但轨迹可疑”,仅看聚合指标无法察觉。

#AI Agent#Evals#E2E Eval#Pass@k#AI测试#MCP服务器#Agent测试金字塔
分享:

相关推荐