概念捷径学习 / spurious correlation
虚假相关
机器学习模型在学习过程中依赖训练数据中的表面特征而非真正因果关联的现象，在大模型安全对齐中表现为基于关键词而非意图判断风险
时间轴 (近 90 天)
10月26日
对齐训练数据中的安全样本往往带有特定关键词和句式，模型容易学到“表面特征”而非真正的意图理解，这被称为虚假相关或捷径学习。
待验证50%
机器学习模型在学习过程中依赖训练数据中的表面特征而非真正因果关联的现象，在大模型安全对齐中表现为基于关键词而非意图判断风险
对齐训练数据中的安全样本往往带有特定关键词和句式，模型容易学到“表面特征”而非真正的意图理解，这被称为虚假相关或捷径学习。