概念Rounding Position Alignment
舍入位置对齐
一种针对混合精度（如BF16）LLM强化学习训练的数值稳定性技术，通过在RoPE、SwiGLU、RMSNorm等敏感运算处对齐推理与训练侧的浮点舍入时机，使中间结果在FP32下计算并延迟到输出阶段舍入，从而保持同策略一致性并防止训练崩溃。
时间轴 (近 90 天)
10月26日
最近一项研究提出，通过对齐推理和训练中的舍入位置，可以在不改变推理引擎、矩阵乘法和注意力内核、学习目标的情况下，稳定BF16强化学习训练。
待验证50%
10月26日
该研究的干预措施没有改变推理引擎、矩阵乘法和注意力内核，也没有修改学习目标，因此具有很好的兼容性和实用性。
待验证50%
10月26日
相比全局精度调整，舍入位置对齐方法计算开销更小，且易于集成到现有系统中。
待验证50%