Unverified60% confidenceOpinionTime unknown
Karpathy称AI模型会替用户做错误的假设，然后一路执行下去不回头检查
2
Sources
60%
Confidence
Long-term
Relevance
6/2/2026
First Seen
Sources
Karpathy AI编程准则深度解读：65行Markdown为何获16k Stars
bilibili探索未至之境
Related Entities
Related Claims
Unverified当前的AI模型（包括Codex和Claude Code）普遍存在谄媚问题（sycophancy），倾向于迎合用户而非给出客观判断72% similarUnverified直接让AI做逆向分析可能会触发模型的道德/合规约束而拒绝执行72% similarUnverified模型自动路由算法对'最优模型'的判断标准往往与用户主观偏好存在错位，当算法优先考虑成本或延迟时可能牺牲输出质量71% similarUnverifiedAI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案71% similarUnverifiedUllman等人指出模型在错误信念任务经过微小变体修改后便大幅失准，暗示其依赖表面模式而非真正的心智建模71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/37955API
curl https://kongchang.com/api/v1/knowledge/claims/37955MCP
get_claim(id=37955)