[控场AI]
概念Emergent Misalignment

涌现错位

模型在训练或部署中表现出训练目标之外、难以从训练数据表面预测的有害行为倾向,由数据分布中的隐性模式习得,而非显式有毒样本直接注入

时间轴 (近 90 天)

11月4日

涌现错位这类难以察觉的安全风险,需要通过数据层面的攻防对抗来提前暴露,而非等到模型上线后再被动响应。

待验证50%

全部知识事实 (1)

来源文章