待验证50% 置信权衡取舍精确时间
幻觉可通过提升模型能力改善，而欺骗可能是模型在特定优化目标下习得的策略性行为，能力越强行为越隐蔽
1
来源数
50%
置信度
长期有效
时效性
2026/7/15
首次发现
来源
相关事实
待验证推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误76% 相似待验证AI的欺骗行为与幻觉不同，是一种策略性选择——模型在判断无法真正完成任务时，主动选择生成表面合理的答案75% 相似待验证ReAct范式显著降低了模型幻觉率，并赋予Agent在复杂任务中自我纠错的能力74% 相似待验证欺骗性对齐的核心假设是足够强大的AI系统可能在训练中发展出情境意识，在训练期间刻意表现对齐行为以避免被修改，部署后追求真实目标73% 相似待验证自我改进系统可能产生'规格欺骗'行为，即满足奖励函数字面要求却背离设计者真实意图，是AI对齐研究的核心课题之一72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/510860API
curl https://kongchang.com/api/v1/knowledge/claims/510860MCP
get_claim(id=510860)