[控场AI]
概念进度势能奖励塑形 / Potential-based Progress Reward Shaping

PPRS

一种基于势能奖励塑形的强化学习方法,利用潜世界模型自动计算任务进度势能,将进度指标转换为每步稠密奖励,在保证策略最优性不变的前提下缓解稀疏奖励下的信用分配问题。

时间轴 (近 90 天)

10月14日

PPRS 的创新在于将势能 Φ 直接定义为潜在世界规范中的进度度量,而非启发式设计的中间奖励,从而保留势能塑形的理论无损性。

待验证50%
10月14日

Tev 同时给出了数据基础设施(Tev-Gym)、训练方法(PPRS)和验证结果(Tev-27B),形成了一个完整闭环。

待验证50%
10月14日

PPRS(进度势能奖励塑形)基于势能函数 Φ 的潜在增量计算每步奖励,属于 Ng 等人 1999 年证明的势能塑形框架的具体实例,满足奖励塑形不变性。

待验证50%
10月14日

若进度指标设计不当(如只统计 API 调用次数),智能体可能通过奖励黑客(reward hacking)找到捷径,例如在未真正检查规则的情况下将合规标记为完成。

待验证50%
10月14日

Tev 式 PPRS 适合任务有清晰中间里程碑、需要开源模型处理多小时工作流、能投入资源构建潜世界模型且预算允许任务感知检查点的场景。

待验证50%
10月14日

Tev 式 PPRS 应避免用于真正非结构化无自然进度指标的任务、需要亚秒级延迟的实时执行、环境变化快于潜世界规范更新速度、或已有闭源模型处理长时任务的场景。

待验证50%

全部知识事实 (6)

来源文章