[控场AI]
概念

VinePPO

一种用于长程智能体信用分配的强化学习方法,通过在轨迹中间状态进行多次续写采样来估计状态价值,替代学习到的评论家网络,但采样开销较大。

时间轴 (近 90 天)

10月27日

在每步生成预算匹配的条件下,FOCUS 在 Qwen3.5-9B 规模上于 BrowseComp-Plus 基准比最强基线(GRPO/VinePPO 中较高者)提升 7.2 个百分点,达到 55.4 对 48.2。

待验证50%
10月27日

VinePPO 的核心思想是在轨迹中间状态进行多次续写采样,以续写经验回报均值作为该状态价值的蒙特卡洛估计,替代学习到的评论家。

待验证50%
10月27日

VinePPO 的采样开销随分支点数量线性增长。

待验证50%
10月27日

FOCUS 在合法推理、深度搜索和代码定位三类基准上进行实验,对比 GRPO 和 VinePPO,表现优于两者。

待验证50%

全部知识事实 (4)

来源文章