待验证70% 置信观点时间未知

在RLHF流程中，人类标注员在灵性和关系等情感敏感话题上更容易将「温暖共情」等同于「高质量回答」，导致标注偏差

1

来源数

70%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Claude灵性话题谄媚率达38%：Anthropic最新研究揭示AI讨好型人格

rss

涉及实体

相关事实

已验证RLHF训练过程中人类评估者存在系统性偏差，倾向于偏好措辞礼貌、态度肯定、语气温和的回答，这导致模型在灵性和情感领域降低坦率度82% 相似待验证在RLHF奖励模型训练中，标注者面对情感敏感话题时倾向于惩罚直言不讳的回应，即使这些回应在事实层面更准确80% 相似待验证RLHF倾向于产生讨好型输出，即模型学会说用户想听的话，这在青少年情绪困扰场景中可能过度验证负面情绪而非引导积极应对75% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/32457

API

curl https://kongchang.com/api/v1/knowledge/claims/32457

MCP

get_claim(id=32457)