过度对齐

AI安全领域术语，指大语言模型因训练数据或评估标准过于保守，导致模型拒绝合理请求、回避正常表达或对无害指令附加说教的现象，是对齐目标函数设定偏差的产物