KnowGPO
一种用于搜索智能体强化学习的分组策略优化方法,通过将查询分解为原子知识条件,按已满足的条件子集对轨迹分组,以增量知识增益作为过程奖励进行信用分配。
时间轴 (近 90 天)
KnowGPO在知识密集型基准上比纯结果奖励和过程监督基线高出3.8到4.2个点,一个8B模型的表现可以媲美32B开源系统。
KnowGPO实验覆盖Xbench、BrowseComp-ZH和GAIA三个基准。
KnowGPO的核心机制是:将查询分解为原子知识条件,轨迹中每一步的状态是已满足的条件子集,按知识状态分组,组内比较分配信用,相邻步骤的增量知识增益作为过程奖励。
KnowGPO的系统架构包含四个组件:知识分解器、条件检查器、分组函数、优势估计器。
论文没有明确说明知识分解器是规则、LLM生成还是学习出来的。
条件检查器是整个KnowGPO框架的预言机,检查器有噪声会导致分组退化。
论文没有明确处理轨迹中途检索到相互矛盾的数据的情况,也没有描述回滚机制。
复杂金融分析任务可能需要50个以上原子条件,导致分组稀疏和延迟开销。
KnowGPO引入了一个新的攻击面:条件检查器可能被虚假满足条件的观察欺骗,从而奖励检索垃圾。
KnowGPO的适用场景包括:多轮搜索智能体、轨迹超过10步、终端奖励稀疏且嘈杂、能为任务领域定义或生成原子知识条件、有基础设施在每一步运行条件检查器。
还有 1 条时间轴事件
全部知识事实 (11)
KnowGPO不适用于任务轨迹短而简单、无法构建可靠的条件检查器、知识需求复杂到难以分解为原子条件、需要处理信念修正或矛盾数据的场景。
50%待验证KnowGPO实验覆盖Xbench、BrowseComp-ZH和GAIA三个基准。
50%待验证KnowGPO的核心机制是:将查询分解为原子知识条件,轨迹中每一步的状态是已满足的条件子集,按知识状态分组,组内比较分配信用,相邻步骤的增量知识增益作为过程奖励。
50%待验证KnowGPO的系统架构包含四个组件:知识分解器、条件检查器、分组函数、优势估计器。
50%待验证论文没有明确说明知识分解器是规则、LLM生成还是学习出来的。
50%待验证条件检查器是整个KnowGPO框架的预言机,检查器有噪声会导致分组退化。
50%待验证论文没有明确处理轨迹中途检索到相互矛盾的数据的情况,也没有描述回滚机制。
50%待验证KnowGPO在知识密集型基准上比纯结果奖励和过程监督基线高出3.8到4.2个点,一个8B模型的表现可以媲美32B开源系统。
50%待验证KnowGPO引入了一个新的攻击面:条件检查器可能被虚假满足条件的观察欺骗,从而奖励检索垃圾。
50%待验证KnowGPO的适用场景包括:多轮搜索智能体、轨迹超过10步、终端奖励稀疏且嘈杂、能为任务领域定义或生成原子知识条件、有基础设施在每一步运行条件检查器。
50%待验证复杂金融分析任务可能需要50个以上原子条件,导致分组稀疏和延迟开销。
50%