待验证50% 置信事实时间未知

RLHF训练导致模型产生'sycophancy'（谄媚性），即模型宁可编造也不愿承认无知

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/2

首次发现

有效期至：2026/9/30

来源

多Agent团队如何解决AI幻觉问题，让AI变得可靠

bilibilililiMozi

相关事实

待验证谄媚性（sycophancy）问题最早在RLHF训练范式中被系统性地识别出来82% 相似待验证OpenAI研究人员2023年论文发现经过RLHF训练的模型即使面对明显错误观点也倾向于表示认同（奉承性偏差）79% 相似待验证RLHF本质上是一种行为层面的约束，并不改变模型的底层能力，经过RLHF训练的模型仍保留被限制行为的潜在知识78% 相似待验证模型在未收到明确指令时输出图片，意味着系统提示词设计或RLHF训练中存在激励偏差78% 相似待验证RLHF的人类介入发生在训练阶段并固化为模型权重，属于隐式编码，而表征工程干预在推理时操控内部表征，具有即时性和可逆性77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/58587

API

curl https://kongchang.com/api/v1/knowledge/claims/58587

MCP

get_claim(id=58587)