上下文压缩会削弱拒绝对齐吗？研究揭示语义保真不等于行为对齐

上下文压缩的隐性代价：拒绝对齐被系统性削弱

当大模型面临越来越长的上下文窗口时，上下文压缩被普遍视为降低推理成本的有效手段——将输入编码为紧凑表示，同时尽量保留语义内容。但一项新的研究提出了一个关键问题：语义保留是否足以维持下游行为，比如拒绝对齐？ 答案可能是否定的。

研究发现，基于编码器的压缩会系统性地削弱指令微调语言模型中的拒绝行为，尽管重建保真度很高。这一效应在不同模型家族和压缩架构中持续存在，说明它并非个别实现的问题，而是压缩方法本身的属性。

这一发现对安全和合规敏感的应用场景意义重大。拒绝对齐是模型抵御有害请求的第一道防线，如果压缩在不知不觉中削弱了这道防线，那么压缩感知系统就需要重新审视其设计假设。

机制分析：压缩衰减了拒绝方向的激活

为了解释这一现象，研究者进行了机制分析。结果显示，压缩会衰减解码器中学习到的拒绝方向上的激活。换句话说，模型内部表示中与拒绝行为相关的特征在压缩过程中被弱化了。

这解释了为什么高重建保真度与行为退化可以同时发生：语义内容得到了保留，但对齐相关的特征并未被同等对待。压缩算法优化的是语义重建，而非行为保真，二者之间的鸿沟正是问题所在。

为什么语义保真不够

传统观点认为，只要压缩后的表示能够准确重建原始输入，下游任务的表现就应当不受影响。但这项研究表明，这种假设在对齐行为上并不成立。拒绝行为依赖于表示空间中特定的方向性特征，而这些特征在压缩中容易丢失或衰减。

拒绝方向（refusal direction） 是机制可解释性研究中提出的一个概念：在对齐后的语言模型中，拒绝有害请求与顺从请求的激活差异可以投射到一个低维方向上，沿该方向移动激活即可显著改变模型的拒绝倾向。这一方向通常通过对大量正负样本对的中间层激活做均值差或线性探针获得，具有跨提示的泛化性。拒绝方向的存在说明拒绝对齐并非分散在全部语义维度中，而是集中在特定方向上，因此压缩算法若只优化整体重建误差，就可能对这一窄方向造成不成比例的损伤。

重建保真度通常以困惑度、词元级准确率或余弦相似度衡量，反映的是压缩表示能否还原原始输入的语义内容。这类指标对表示空间中各向异性的敏感度较低：即使某一方向被削弱，整体相似度仍可能维持在很高水平。因此在评估压缩质量时，重建保真度与行为保真度是两个正交维度，需要分别测量。

Memory Steering：无需重训练的轻量修复方案

面对这一问题，研究者进一步探索了 Memory Steering——一种轻量级的推理时干预方法。它能够在无需重新训练的情况下，将拒绝率恢复到接近基线的水平，并且完全在压缩表示空间中操作。

这一方案的价值在于实用性：它不要求修改压缩架构或重新训练模型，而是在推理阶段进行干预，降低了部署成本。对于已经采用压缩的系统来说，这是一种可插拔的补救路径。

对压缩感知系统的启示

研究结果传递出一个明确信号：语义保留并不保证行为保留。压缩感知系统需要显式地保留与对齐相关的特征，而不是仅仅优化语义重建指标。这为未来的压缩方法设计提出了新要求——对齐感知应当成为压缩质量评估的一部分。

推理时干预（inference-time intervention） 指在不修改模型权重的前提下，于前向传播过程中直接编辑激活值的技术路线，代表性方法包括激活引导（activation steering）、对比激活添加（CAA）等。其基本做法是构造一个干预向量，在指定层的残差流上按比例加减，从而把模型行为推向期望方向。由于无需梯度更新和训练数据，这类方法部署成本低、可随时开关，适合作为已上线系统的补丁。Memory Steering 延续了这一思路，但干预对象是压缩后的表示空间，需要在压缩编码与解码之间定位可操作的激活位置。

常见问题

Q：上下文压缩对所有模型都有影响吗？ A：研究发现该效应在不同模型家族和压缩架构中持续存在，说明它不是特定模型的偶然现象。

Q：Memory Steering 需要重新训练模型吗？ A：不需要。它是一种推理时干预，完全在压缩表示空间中操作。

Q：如何判断压缩是否损害了对齐？ A：仅看重建保真度不够，需要额外评估拒绝率等行为指标。