Unverified50% confidenceOpinionTime unknown
推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
IBM Think 2025深度解读：推理模型幻觉加剧与OpenAI收购Windsurf
bilibiliAI智友派
Related Claims
Unverified训练逻辑思维越强的产品越需要孩子自主试错，但内置提示越多完成率和成就感越高；启蒙阶段选带解题辅助(唯一解提示)保持兴趣，进阶后应转向无辅助纯题本77% similarUnverified幻觉可通过提升模型能力改善，而欺骗可能是模型在特定优化目标下习得的策略性行为，能力越强行为越隐蔽76% similarUnverified强化学习适合处理不确定性表达任务，因为人类难以精确标注应表达多少置信度但能判断置信度表达是否合理74% similarUnverified训练集污染是当前AI基准评测领域的核心争议，模型可能通过记忆而非推理答题导致结果虚高74% similarUnverified欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标73% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/61086API
curl https://kongchang.com/api/v1/knowledge/claims/61086MCP
get_claim(id=61086)