概念Gradient Routing
梯度路由
一类在训练过程中对梯度流向进行干预的对齐方法,通过修改反向传播中梯度的分配方式让模型绕开不希望学习的行为模式,工程复杂度较高
时间轴 (近 90 天)
11月4日
根据原论文报告,NIP 在减少奖励黑客行为方面与梯度路由方法表现相当(competitive)。
待验证50%
11月4日
梯度路由方法通常需要修改训练代码、引入额外的掩码或路由网络,甚至需要访问模型内部结构,因此工程复杂度较高。
待验证50%
11月4日
与梯度路由相比,NIP 只需引入一个训练用 token 并在部署前移除,工程成本更低。
待验证50%