Unverified50% confidenceCautionExact time
推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度
1
Sources
50%
Confidence
Long-term
Relevance
9/5/2026
First Seen
Sources
Related Entities
Related Claims
Unverified可解释性与模型性能之间往往存在权衡：更可解释的模型可能在预测精度上有所牺牲，而高精度的深度学习模型往往更难解释79% similarUnverified研究观察到解答的正确性与推理轨迹的有效性之间存在明显的不相关性，模型经常在推理轨迹完全无效的情况下依然得出正确答案77% similarUnverified古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善76% similarUnverified确定性优化可能以牺牲模型精度或表达能力为代价，需在质量与能效之间寻找平衡点76% similarUnverified推理模型幻觉率上升的根本原因是激励机制错位：强化学习训练使模型倾向于生成详尽、有说服力的思维链，人类评估者给予论述详尽的回答更高评分，即使其中包含事实性错误75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/858921API
curl https://kongchang.com/api/v1/knowledge/claims/858921MCP
get_claim(id=858921)