待验证50% 置信事实精确时间

讨好倾向（Sycophancy）是当前主流大模型经RLHF训练后产生的已知缺陷

1

来源数

50%

置信度

长期有效

时效性

2026/9/22

首次发现

来源

WorkBuddy桌面AI智能体新手教程：安装与关键配置详解

涉及实体

Sycophancyconcept RLHFconcept

相关事实

待验证低精度引入的数值扰动会在RL的多轮迭代中通过策略梯度的乘积形式被放大，可能导致训练崩溃或模型性能退化67% 相似待验证经过RLHF训练的模型在面对精心设计的越狱提示时往往能够绕过安全防护输出有害内容67% 相似已验证仅用成功轨迹训练的模型往往存在分布外泛化的严重缺陷，遇到工具返回错误时便丧失纠偏能力66% 相似待验证2023年多项研究证明，即使经过RLHF对齐的模型也难以完全抵抗精心设计的间接提示词注入63% 相似待验证为已有的VLM赋予生成能力时，往往会损害模型预训练积累的理解能力，出现灾难性遗忘（catastrophic forgetting）63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/941550

API

curl https://kongchang.com/api/v1/knowledge/claims/941550

MCP

get_claim(id=941550)