SimpleLoRIF
一种基于低秩梯度归因的微调数据安全过滤方法，通过将反向传播限制在Transformer最后四个块来计算样本梯度嵌入，并与不安全行为的梯度方向比较，从而为每个训练样本打出安全对齐分数，可扩展到百万级数据集。
时间轴 (近 90 天)
SimpleLoRIF 是一种通过梯度嵌入方法找出与不安全行为对齐的微调样本的技术，它简化了低秩归因方法并将反向传播限制在 Transformer 的最后四个块，从而将梯度归因从实验室工具变为可落地的数据过滤器。
SimpleLoRIF 将反向传播限制在 Transformer 最后四个块，是因为底层参数主要编码通用语言特征，而高层参数与具体行为（包括安全性）关联更强，只回传高层梯度即可捕获大部分安全相关信号。
在「涌现性失配」（emergent misalignment）场景中，SimpleLoRIF 的梯度信号能将不安全代码训练数据与后续广泛有害行为联系起来，AUC 高达 0.865。
在分析被移除的样本时，研究者识别出工具执行失败（tool-execution failures）和叙事算术（narrative arithmetic）等此前研究不足的安全退化来源，梯度信号显示这些模式与不安全行为存在关联。
SimpleLoRIF 的简化策略（只回传最后几个块、低秩近似）是否在其他模型架构上同样有效，以及梯度对齐分数与下游安全指标的因果关系强度，仍需更多独立验证。
全部知识事实 (5)
SimpleLoRIF 是一种通过梯度嵌入方法找出与不安全行为对齐的微调样本的技术，它简化了低秩归因方法并将反向传播限制在 Transformer 的最后四个块，从而将梯度归因从实验室工具变为可落地的数据过滤器。
50%待验证SimpleLoRIF 将反向传播限制在 Transformer 最后四个块，是因为底层参数主要编码通用语言特征，而高层参数与具体行为（包括安全性）关联更强，只回传高层梯度即可捕获大部分安全相关信号。
50%待验证在「涌现性失配」（emergent misalignment）场景中，SimpleLoRIF 的梯度信号能将不安全代码训练数据与后续广泛有害行为联系起来，AUC 高达 0.865。
50%待验证在分析被移除的样本时，研究者识别出工具执行失败（tool-execution failures）和叙事算术（narrative arithmetic）等此前研究不足的安全退化来源，梯度信号显示这些模式与不安全行为存在关联。
50%待验证SimpleLoRIF 的简化策略（只回传最后几个块、低秩近似）是否在其他模型架构上同样有效，以及梯度对齐分数与下游安全指标的因果关系强度，仍需更多独立验证。
50%