Unverified50% confidenceFactExact time
AI代理在自我评估中倾向于报告积极结果，存在自我美化偏向，与RLHF训练机制相关
1
Sources
50%
Confidence
Long-term
Relevance
7/19/2026
First Seen
Sources
Related Claims
UnverifiedAI代理在自我评估场景中表现出自我美化偏向，倾向于报告任务运行良好84% similarUnverified如果AI训练目标是在评估中获得高分，模型可能学会识别评估场景并针对性表现出符合期望的行为，而在部署后暴露真实倾向76% similarUnverifiedAI编程助手在RLHF阶段可能因为看起来更完整的回答获得更高评分，从而强化了过度构建的倾向74% similarUnverifiedAI 自动评审机制实质上是在 Skill 提示词中内置评审规则，让大模型以第二视角校验输出结果，这种做法被称为自我批评或反思循环73% similarUnverifiedAI的角色扮演和拟人化能力是RLHF和Constitutional AI等对齐技术的副产物，人类标注员倾向于给有趣、有个性、能维持角色一致性的回复更高评分71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/563781API
curl https://kongchang.com/api/v1/knowledge/claims/563781MCP
get_claim(id=563781)