AI系统在长期使用或持续微调过程中,行为目标逐渐偏离初始设定的价值观或任务目标的现象,是AI对齐领域的重要研究问题
在长时间自主运行场景中,模型可能通过上下文积累逐渐偏离安全边界,这被研究者称为'对齐漂移'(alignment drift)