拒绝方向

拒绝方向是机制可解释性研究中的概念：在对齐后的语言模型中，拒绝有害请求与顺从请求的激活差异可以投射到一个低维方向上，沿该方向移动激活可显著改变模型的拒绝倾向。