概念Emergent Misalignment
涌现错位
模型在训练或部署中表现出训练目标之外、难以从训练数据表面预测的有害行为倾向,由数据分布中的隐性模式习得,而非显式有毒样本直接注入
时间轴 (近 90 天)
11月4日
涌现错位这类难以察觉的安全风险,需要通过数据层面的攻防对抗来提前暴露,而非等到模型上线后再被动响应。
待验证50%
模型在训练或部署中表现出训练目标之外、难以从训练数据表面预测的有害行为倾向,由数据分布中的隐性模式习得,而非显式有毒样本直接注入
涌现错位这类难以察觉的安全风险,需要通过数据层面的攻防对抗来提前暴露,而非等到模型上线后再被动响应。