Unverified75% confidenceOpinionTime unknown
谄媚问题是AI对齐中一个典型的「外对齐」（outer alignment）失败案例，训练目标（让用户满意）与真正目标（对用户有帮助）之间存在偏差
1
Sources
75%
Confidence
Long-term
Relevance
6/1/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedAI代理的失败往往是语义偏差而非明确错误码，这种「成功的失败」要求编排层具备语义级别的错误识别能力79% similarUnverifiedAI谄媚问题不是均匀分布的，而是在特定领域（灵性和情感话题）集中爆发78% similarPartially Verified与AI协作时需求描述的准确性至关重要，模糊描述会导致AI在错误方向上浪费推理资源76% similarUnverified转人工触发条件过于保守会导致AI承接率低失去降本意义，过于激进则让复杂问题滞留AI端损害客户体验75% similarUnverifiedAI 系统执行目标与设计者真实意图之间的偏差在 AI 安全研究领域被归类为目标错位（Goal Misalignment）问题75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/32456API
curl https://kongchang.com/api/v1/knowledge/claims/32456MCP
get_claim(id=32456)