概念信用分配
credit assignment
序列决策问题中将最终奖励归因到具体某步决策的难题,当奖励仅在episode结束时出现而中间步骤众多时尤为困难,是强化学习中的核心挑战之一
时间轴 (近 90 天)
10月15日
信用分配是强化学习核心难题:一条轨迹只获得一个标量回报时,判断每步动作贡献大小很困难;在1000 token思维链中只有最终答案信号,中间步骤无直接反馈,导致策略梯度方差极大。
待验证50%
10月14日
信用分配指在序列决策中把最终获得的奖励归因到具体哪一步决策上的问题。
待验证50%
10月5日
稀疏奖励加上长时间跨度使得基于梯度的优化信号在反向传播过程中大幅衰减
待验证50%