[控场AI]
概念context confusion

语境混淆

大语言模型后训练阶段的一种风险现象,指即便训练样本本身完全对齐,也可能因不同领域查询在微调过程中经历相似的表征偏移,导致对齐行为被错误迁移到语义相近的其他语境中,从而诱发窄域失准行为。

来源文章