概念Weighted Refusal Direction Optimization

WRDO

一种用于大模型安全对齐的拒绝方向优化方法，通过为不同有害提示学习聚合权重，将逐提示的拒绝方向加权求和形成复合干预方向，替代等权平均的均值差向量，可双向用于削弱或恢复模型拒绝行为

时间轴 (近 90 天)

10月22日

WRDO（Weighted Refusal Direction Optimization）是一种通过学习的聚合权重，将每个提示特定的拒绝方向组合成复合方向的方法。

待验证50%

10月22日

论文在三个开放权重语言模型上对比了 WRDO 与先前的单一方向方法。

待验证50%

10月22日

WRDO 的同一套优化机制不仅可以正向使用削弱拒绝，还可以反向用于恢复被移除拒绝行为的模型检查点的拒绝能力。

待验证50%

10月22日

实验结果表明，加权聚合提供了一种更有效也更灵活的拒绝表示操纵机制，优于固定的单一方向干预。

待验证50%

10月22日

论文没有给出跨模型规模的普适性结论，三个开放权重模型的实验范围有限。

待验证50%

WRDO（Weighted Refusal Direction Optimization）是一种通过学习的聚合权重，将每个提示特定的拒绝方向组合成复合方向的方法。

论文在三个开放权重语言模型上对比了 WRDO 与先前的单一方向方法。

WRDO 的同一套优化机制不仅可以正向使用削弱拒绝，还可以反向用于恢复被移除拒绝行为的模型检查点的拒绝能力。

实验结果表明，加权聚合提供了一种更有效也更灵活的拒绝表示操纵机制，优于固定的单一方向干预。

论文没有给出跨模型规模的普适性结论，三个开放权重模型的实验范围有限。