pass@1
代码生成评测中的标准计分口径,模型对每个任务只生成一次答案,通过得1分失败得0分,最终取全部任务平均值,衡量一次交付的成功率
核心事实
时间轴 (近 90 天)
在 P2NPCBench 评估中,12 个专有与开源模型在 NPC 问题上的平均 pass@1 为 35.4%,在 P 双胞胎上为 63.8%,差距接近 28 个百分点。
在静态预测和动态任务中,框架相对于更强干预(如模型缩放或增加推理计算)的 pass@1 优势在更大的尝试预算下可能反转。
仅凭 pass@1 比较不同干预措施的优劣可能产生误导,需结合多尝试预算下的表现进行综合判断。
排行榜通常以单次尝试(pass@1)为标准,而错误修复循环相当于多次采样或自我修正;将修复后结果与单次尝试混报会高估模型能力并误导技术选型。
pass@1 衡量首次响应即符合 schema 的比例,pass@repair 衡量经一次修复后累计可用比例,reject rate 衡量应拒绝的比例
经过GRPO强化学习后,使用TailSFT的检查点最终pass@1提升最高达3.9分
如果pass@16远高于pass@1,说明模型的概率分布中包含正确答案但未将其置于最高概率位置,这正是RL可以通过奖励信号发挥作用的空间
全部知识事实 (8)
pass@1指标最初从代码生成评测领域(如HumanEval基准)借鉴而来,用于衡量模型一次生成正确代码的概率
75%待验证在 P2NPCBench 评估中,12 个专有与开源模型在 NPC 问题上的平均 pass@1 为 35.4%,在 P 双胞胎上为 63.8%,差距接近 28 个百分点。
50%待验证在静态预测和动态任务中,框架相对于更强干预(如模型缩放或增加推理计算)的 pass@1 优势在更大的尝试预算下可能反转。
50%待验证仅凭 pass@1 比较不同干预措施的优劣可能产生误导,需结合多尝试预算下的表现进行综合判断。
50%待验证排行榜通常以单次尝试(pass@1)为标准,而错误修复循环相当于多次采样或自我修正;将修复后结果与单次尝试混报会高估模型能力并误导技术选型。
50%待验证pass@1 衡量首次响应即符合 schema 的比例,pass@repair 衡量经一次修复后累计可用比例,reject rate 衡量应拒绝的比例
50%待验证如果pass@16远高于pass@1,说明模型的概率分布中包含正确答案但未将其置于最高概率位置,这正是RL可以通过奖励信号发挥作用的空间
50%待验证经过GRPO强化学习后,使用TailSFT的检查点最终pass@1提升最高达3.9分
50%