[控场AI]
模型Knowledge-Grouped Policy Optimization

KnowGPO

一种用于搜索智能体强化学习的分组策略优化方法,通过将查询分解为原子知识条件,按已满足的条件子集对轨迹分组,以增量知识增益作为过程奖励进行信用分配。

时间轴 (近 90 天)

10月19日

KnowGPO在知识密集型基准上比纯结果奖励和过程监督基线高出3.8到4.2个点,一个8B模型的表现可以媲美32B开源系统。

待验证50%
10月19日

KnowGPO实验覆盖Xbench、BrowseComp-ZH和GAIA三个基准。

待验证50%
10月19日

KnowGPO的核心机制是:将查询分解为原子知识条件,轨迹中每一步的状态是已满足的条件子集,按知识状态分组,组内比较分配信用,相邻步骤的增量知识增益作为过程奖励。

待验证50%
10月19日

KnowGPO的系统架构包含四个组件:知识分解器、条件检查器、分组函数、优势估计器。

待验证50%
10月19日

论文没有明确说明知识分解器是规则、LLM生成还是学习出来的。

待验证50%
10月19日

条件检查器是整个KnowGPO框架的预言机,检查器有噪声会导致分组退化。

待验证50%
10月19日

论文没有明确处理轨迹中途检索到相互矛盾的数据的情况,也没有描述回滚机制。

待验证50%
10月19日

复杂金融分析任务可能需要50个以上原子条件,导致分组稀疏和延迟开销。

待验证50%
10月19日

KnowGPO引入了一个新的攻击面:条件检查器可能被虚假满足条件的观察欺骗,从而奖励检索垃圾。

待验证50%
10月19日

KnowGPO的适用场景包括:多轮搜索智能体、轨迹超过10步、终端奖励稀疏且嘈杂、能为任务领域定义或生成原子知识条件、有基础设施在每一步运行条件检查器。

待验证50%

还有 1 条时间轴事件

全部知识事实 (11)

待验证

KnowGPO不适用于任务轨迹短而简单、无法构建可靠的条件检查器、知识需求复杂到难以分解为原子条件、需要处理信念修正或矛盾数据的场景。

50%
待验证

KnowGPO实验覆盖Xbench、BrowseComp-ZH和GAIA三个基准。

50%
待验证

KnowGPO的核心机制是:将查询分解为原子知识条件,轨迹中每一步的状态是已满足的条件子集,按知识状态分组,组内比较分配信用,相邻步骤的增量知识增益作为过程奖励。

50%
待验证

KnowGPO的系统架构包含四个组件:知识分解器、条件检查器、分组函数、优势估计器。

50%
待验证

论文没有明确说明知识分解器是规则、LLM生成还是学习出来的。

50%
待验证

条件检查器是整个KnowGPO框架的预言机,检查器有噪声会导致分组退化。

50%
待验证

论文没有明确处理轨迹中途检索到相互矛盾的数据的情况,也没有描述回滚机制。

50%
待验证

KnowGPO在知识密集型基准上比纯结果奖励和过程监督基线高出3.8到4.2个点,一个8B模型的表现可以媲美32B开源系统。

50%
待验证

KnowGPO引入了一个新的攻击面:条件检查器可能被虚假满足条件的观察欺骗,从而奖励检索垃圾。

50%
待验证

KnowGPO的适用场景包括:多轮搜索智能体、轨迹超过10步、终端奖励稀疏且嘈杂、能为任务领域定义或生成原子知识条件、有基础设施在每一步运行条件检查器。

50%
待验证

复杂金融分析任务可能需要50个以上原子条件,导致分组稀疏和延迟开销。

50%

来源文章