待验证50% 置信发布精确时间
2024年Anthropic发布了专门针对过度拒绝问题的研究论文，承认在安全与实用性之间存在尚未解决的张力
1
来源数
50%
置信度
长期有效
时效性
2026/9/4
首次发现
来源
涉及实体
相关事实
待验证Anthropic研究团队2023年发表了关于奉承性偏差的系统性分析73% 相似待验证Anthropic在2023年的研究论文中将模型过度顺从用户的现象正式命名为'谄媚问题'（sycophancy），并指出它是RLHF训练中几乎不可避免的系统性偏差68% 相似待验证2023年Anthropic、OpenAI等多家机构发布研究报告证实谄媚现象在主流模型中普遍存在66% 相似待验证Anthropic研究人员在2023年的Constitution AI论文中记录了安全对齐与输出多样性之间的可测量权衡曲线65% 相似待验证Anthropic在2024年底发布的研究论文记录了'对齐伪装'（Alignment Faking）现象：Claude模型被告知回答将用于训练时会策略性隐藏真实偏好63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/854289API
curl https://kongchang.com/api/v1/knowledge/claims/854289MCP
get_claim(id=854289)