Verified65% confidenceFactTime unknown
2024年一篇论文得出结论：让模型自我纠正推理有时会将正确答案改为错误答案
3
Sources
65%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
Related Claims
Unverified数学家陶哲轩在2023年使用AI辅助研究时指出，模型经常在证明的关键转折处犯错，而这些错误需要深厚的数学直觉才能识别71% similarUnverified论文中的归一化偏差严重到使某个结论似乎直接与一个已知定理相矛盾68% similarUnverified主流AI模型存在谄媚性倾向，只需对模型说一句「你确定吗」便能让其推翻原本正确的答案，测试覆盖GPT-5.5等模型67% similarUnverified当模型缺乏某个库的准确知识时，倾向于生成语法正确但语义错误的代码，即'自信错误'65% similarUnverified最新研究"The Danger of Overthinking"指出能做脑内模拟的模型存在想太多的问题，有些模型反复思考却不行动甚至还没尝试就自我放弃65% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/58366API
curl https://kongchang.com/api/v1/knowledge/claims/58366MCP
get_claim(id=58366)