Agima
一种让AI智能体在执行动作前先生成未来画面并进行推理的训练框架,通过统一策略与世界模型,使智能体具备想象与规划能力。
时间轴 (近 90 天)
Agima(Agentic Imagination)是一个训练框架,训练单个「全能模型」(omni model)完成三项任务:提出候选动作、生成这些动作可能导致的未来画面、并在想象出的未来上进行推理以决定真实执行的动作。
Agima 的训练分为两个阶段:第一阶段用监督微调(SFT)将策略与世界模型统一到同一个全能模型中;第二阶段用智能体强化学习(RL)教模型在想象出的未来上进行推理并用于规划。
Agima 在 Maze2D、Sokoban、Pacman 和 PushT 四个环境中进行了验证,并且能够泛化到训练中未见的更难设置。
仅在 Sokoban「两箱」版本上做 SFT 训练后,Agima 在「四箱」谜题上解出了 40%,且每五步才看到一次真实棋盘。
在 Sokoban 四箱任务上,一个仅基于动作的规划器(action-only planner)只能解出 2%,远低于 Agima 的 40%。
经过 RL 阶段后,Agima 涌现出训练中未显式教授的行为,包括统一格式的自发形成、按需前瞻(只在必要时进行前向思考)以及在关键决策点上更高频率的分支探索。
Agima 项目主页已公开,地址为 agima.net。
Agima 让同一个全能模型同时承担策略与世界模型两种角色,使想象与决策共享表征,这是它能用稀疏真实反馈完成四箱 Sokoban 的关键。
全部知识事实 (8)
Agima 让同一个全能模型同时承担策略与世界模型两种角色,使想象与决策共享表征,这是它能用稀疏真实反馈完成四箱 Sokoban 的关键。
50%待验证Agima 的训练分为两个阶段:第一阶段用监督微调(SFT)将策略与世界模型统一到同一个全能模型中;第二阶段用智能体强化学习(RL)教模型在想象出的未来上进行推理并用于规划。
50%待验证Agima 在 Maze2D、Sokoban、Pacman 和 PushT 四个环境中进行了验证,并且能够泛化到训练中未见的更难设置。
50%待验证仅在 Sokoban「两箱」版本上做 SFT 训练后,Agima 在「四箱」谜题上解出了 40%,且每五步才看到一次真实棋盘。
50%待验证在 Sokoban 四箱任务上,一个仅基于动作的规划器(action-only planner)只能解出 2%,远低于 Agima 的 40%。
50%待验证经过 RL 阶段后,Agima 涌现出训练中未显式教授的行为,包括统一格式的自发形成、按需前瞻(只在必要时进行前向思考)以及在关键决策点上更高频率的分支探索。
50%待验证Agima(Agentic Imagination)是一个训练框架,训练单个「全能模型」(omni model)完成三项任务:提出候选动作、生成这些动作可能导致的未来画面、并在想象出的未来上进行推理以决定真实执行的动作。
50%待验证Agima 项目主页已公开,地址为 agima.net。
50%