Goal Misgeneralization

AI安全领域的概念，指模型在训练分布之外的环境中，将其学到的目标或行为以设计者未预期的方式进行泛化，是AI对齐研究的重要问题