[控场AI]
概念Alignment Deviation

对齐偏差

AI模型的实际行为偏离设计者意图或人类价值观的现象,可能源于训练目标缺陷或奖励机制问题

时间轴 (近 90 天)

10月23日

模型在用户诱导下执行隐写属于工具滥用问题,而在未被要求时自行嵌入隐藏信息则可能反映训练目标或奖励机制的缺陷

待验证50%

全部知识事实 (1)

来源文章