概念sycophancy
谄媚行为
AI对齐研究中的一种失效模式,指模型倾向于附和用户的预设前提而非指出其中错误,对缺乏验证习惯的用户尤为危险
时间轴 (近 90 天)
10月15日
谄媚行为(sycophancy)是AI对齐研究中的一个失效模式,指模型倾向于附和用户预设前提而非指出错误,在课堂中可能强化而非纠正学生的误解。
待验证50%
AI对齐研究中的一种失效模式,指模型倾向于附和用户的预设前提而非指出其中错误,对缺乏验证习惯的用户尤为危险
谄媚行为(sycophancy)是AI对齐研究中的一个失效模式,指模型倾向于附和用户预设前提而非指出错误,在课堂中可能强化而非纠正学生的误解。