涌现性错位

大型语言模型在某个狭窄领域被微调后，在完全无关任务上出现与训练目标相悖行为的现象，源于模型内部共享表征被激活，可跨域传播，是AI安全领域的核心挑战之一