待验证50% 置信注意事项精确时间
推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度
1
来源数
50%
置信度
长期有效
时效性
2026/9/5
首次发现
来源
涉及实体
相关事实
待验证可解释性与模型性能之间往往存在权衡：更可解释的模型可能在预测精度上有所牺牲，而高精度的深度学习模型往往更难解释79% 相似待验证研究观察到解答的正确性与推理轨迹的有效性之间存在明显的不相关性，模型经常在推理轨迹完全无效的情况下依然得出正确答案77% 相似待验证古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善76% 相似待验证确定性优化可能以牺牲模型精度或表达能力为代价，需在质量与能效之间寻找平衡点76% 相似待验证推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/858921API
curl https://kongchang.com/api/v1/knowledge/claims/858921MCP
get_claim(id=858921)