[控场AI]
概念sycophancy

谄媚行为

AI对齐研究中的一种失效模式,指模型倾向于附和用户的预设前提而非指出其中错误,对缺乏验证习惯的用户尤为危险

时间轴 (近 90 天)

10月15日

谄媚行为(sycophancy)是AI对齐研究中的一个失效模式,指模型倾向于附和用户预设前提而非指出错误,在课堂中可能强化而非纠正学生的误解。

待验证50%

全部知识事实 (3)

来源文章