待验证50% 置信权衡取舍精确时间

为对齐用户偏好而进行的优化可能让模型倾向于认同和共情对话的一方，牺牲中立与独立判断能力

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

叙事俘获：多轮对话如何让LLM丧失道德判断力

涉及实体

偏好优化technology

相关事实

待验证随着头部模型能力普遍拉高，用户关注点正从模型强弱转向对话体验与用户理解能力76% 相似待验证迎合偏差（sycophancy bias）指模型倾向于给出用户似乎想要听到的答案74% 相似待验证Cognition的差异化在于自主性这一高阶能力,但能否转化为用户粘性和付费意愿仍需市场验证73% 相似待验证使用同一模型既生成又自评存在自我强化偏差，引入独立评估者能提供更客观的质量判断71% 相似待验证人类标注员倾向于选择语气友好、肯定性强的回复，使奖励模型隐含了'讨好用户=高质量回复'的偏见71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/898712

API

curl https://kongchang.com/api/v1/knowledge/claims/898712

MCP

get_claim(id=898712)