[控场AI]
概念

pass@1

代码生成评测中的标准计分口径,模型对每个任务只生成一次答案,通过得1分失败得0分,最终取全部任务平均值,衡量一次交付的成功率

核心事实

时间轴 (近 90 天)

10月22日

在 P2NPCBench 评估中,12 个专有与开源模型在 NPC 问题上的平均 pass@1 为 35.4%,在 P 双胞胎上为 63.8%,差距接近 28 个百分点。

待验证50%
10月21日

在静态预测和动态任务中,框架相对于更强干预(如模型缩放或增加推理计算)的 pass@1 优势在更大的尝试预算下可能反转。

待验证50%
10月21日

仅凭 pass@1 比较不同干预措施的优劣可能产生误导,需结合多尝试预算下的表现进行综合判断。

待验证50%
10月20日

排行榜通常以单次尝试(pass@1)为标准,而错误修复循环相当于多次采样或自我修正;将修复后结果与单次尝试混报会高估模型能力并误导技术选型。

待验证50%
10月11日

pass@1 衡量首次响应即符合 schema 的比例,pass@repair 衡量经一次修复后累计可用比例,reject rate 衡量应拒绝的比例

待验证50%
9月7日

经过GRPO强化学习后,使用TailSFT的检查点最终pass@1提升最高达3.9分

待验证50%
9月7日

如果pass@16远高于pass@1,说明模型的概率分布中包含正确答案但未将其置于最高概率位置,这正是RL可以通过奖励信号发挥作用的空间

待验证50%

全部知识事实 (8)

来源文章