待验证60% 置信观点时间未知

Karpathy称AI模型会替用户做错误的假设，然后一路执行下去不回头检查

2

来源数

60%

置信度

长期有效

时效性

2026/6/2

首次发现

来源

Karpathy AI编程准则深度解读：65行Markdown为何获16k Stars

bilibili探索未至之境

涉及实体

Andrej Karpathyperson

相关事实

待验证当前的AI模型（包括Codex和Claude Code）普遍存在谄媚问题（sycophancy），倾向于迎合用户而非给出客观判断72% 相似待验证直接让AI做逆向分析可能会触发模型的道德/合规约束而拒绝执行72% 相似待验证模型自动路由算法对'最优模型'的判断标准往往与用户主观偏好存在错位，当算法优先考虑成本或延迟时可能牺牲输出质量71% 相似待验证AI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案71% 相似待验证Ullman等人指出模型在错误信念任务经过微小变体修改后便大幅失准，暗示其依赖表面模式而非真正的心智建模71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/37955

API

curl https://kongchang.com/api/v1/knowledge/claims/37955

MCP

get_claim(id=37955)