[控场AI]
基准

MC-EvoBench

在Minecraft环境中评测具身智能体经验驱动自我进化能力的基准,通过严格对照实验区分真实能力提升与资源跨任务搬运,使用TSR、WGP、VMP三项指标进行评估

时间轴 (近 90 天)

10月12日

MC-EvoBench 是在《Minecraft》环境中构建的可控、可复现的评测基准,用于评估智能体的经验驱动自我进化

待验证50%
10月12日

MC-EvoBench 采用固定任务目录,包含 19 条已注册的进化链,其中 12 条为主评测链,7 条用于校准和探针

待验证50%
10月12日

MC-EvoBench 设计了三组图对齐的配对探针家族,用于考察能力迁移

待验证50%
10月12日

MC-EvoBench 将每个任务建模为一张任务状态图,并定义阶段级别的环境验证器确认智能体是否达到某个中间状态

待验证50%
10月12日

MC-EvoBench 只允许一个明确声明的智能体产物(artifact)跨越源—目标边界,以防止资源搬运干扰评测

待验证50%
10月12日

MC-EvoBench 为每个探针设置四种源条件对比:无先验、相关、无关和打乱,并在匹配的环境步数预算下使用五个随机种子运行

待验证50%
10月12日

MC-EvoBench 报告 TSR(任务成功率)、WGP(加权目标进度)、VMP(验证里程碑进度)三项核心评估指标

待验证50%
10月12日

实验揭示控制器变体与带规划器变体之间存在一致的直接能力差距,说明规划能力影响表现

待验证50%
10月12日

实验发现相关经验并没有产生稳定的能力迁移,没有改善任何一个工具探针的表现,所有置信区间都包含零

待验证50%
10月12日

在木材种类任务上观察到微小增益,但高度依赖单个种子的偶然结果

待验证50%

还有 2 条时间轴事件

全部知识事实 (12)

待验证

MC-EvoBench 是在《Minecraft》环境中构建的可控、可复现的评测基准,用于评估智能体的经验驱动自我进化

50%
待验证

MC-EvoBench 采用固定任务目录,包含 19 条已注册的进化链,其中 12 条为主评测链,7 条用于校准和探针

50%
待验证

MC-EvoBench 设计了三组图对齐的配对探针家族,用于考察能力迁移

50%
待验证

MC-EvoBench 将每个任务建模为一张任务状态图,并定义阶段级别的环境验证器确认智能体是否达到某个中间状态

50%
待验证

MC-EvoBench 只允许一个明确声明的智能体产物(artifact)跨越源—目标边界,以防止资源搬运干扰评测

50%
待验证

MC-EvoBench 为每个探针设置四种源条件对比:无先验、相关、无关和打乱,并在匹配的环境步数预算下使用五个随机种子运行

50%
待验证

MC-EvoBench 报告 TSR(任务成功率)、WGP(加权目标进度)、VMP(验证里程碑进度)三项核心评估指标

50%
待验证

实验揭示控制器变体与带规划器变体之间存在一致的直接能力差距,说明规划能力影响表现

50%
待验证

实验发现相关经验并没有产生稳定的能力迁移,没有改善任何一个工具探针的表现,所有置信区间都包含零

50%
待验证

在木材种类任务上观察到微小增益,但高度依赖单个种子的偶然结果

50%
待验证

阶段级审计发现早期的木材采集和合成环节常成为瓶颈,智能体卡在前置步骤会导致后续高级能力无法被观测

50%
待验证

MC-EvoBench 的相关代码与数据已在 GitHub 开源,地址为 github.com/xzw-ustc/mc-bench-open-source

50%

来源文章