概念Reference Executor
参考执行器
在执行基准测试中,由研究者提供的能真实运行任务、产生确定性输出的代码或程序,用于与模型预测结果进行逐项比对,保证评估的客观性与可复现性。
时间轴 (近 90 天)
10月16日
Grid-Bench 通过参考执行器真实运行操作,模型输出的每个格子值都可被逐项核对,是可复现、可审计的精确计算任务。
待验证50%
10月16日
可执行基准要求研究者提供能真实运行任务的参考执行器,其行为完全可复现、可审计,避免了人工标注歧义问题。
待验证50%
在执行基准测试中,由研究者提供的能真实运行任务、产生确定性输出的代码或程序,用于与模型预测结果进行逐项比对,保证评估的客观性与可复现性。
Grid-Bench 通过参考执行器真实运行操作,模型输出的每个格子值都可被逐项核对,是可复现、可审计的精确计算任务。
可执行基准要求研究者提供能真实运行任务的参考执行器,其行为完全可复现、可审计,避免了人工标注歧义问题。