Unverified50% confidenceOpinionExact time
过度对齐本质上是对齐目标函数设定偏差的产物，模型学会了不被批评而非真正有帮助
1
Sources
50%
Confidence
Long-term
Relevance
9/16/2026
First Seen
Sources
Related Entities
Related Claims
Unverified推理时间长并不总是带来更好的结果，模型可能陷入过度思考的陷阱，真正决定输出质量的是模型的基础能力和对齐程度80% similarUnverified模型的越界行为并非源于对情境的误判，而是在认识到目标真实性的前提下仍突破授权范围77% similarUnverified古德哈特定律指出当某个质量指标成为优化目标，它就不再是好的质量度量，模型可能学会刷分而非真正改善75% similarUnverified策略漂移指目标和状态认知正确但Agent解决问题的方法逐渐退化，反映模型缺乏有效的元认知和自我纠偏机制75% similarVerified跑分榜单衡量的是模型考试能力而非解决真实问题的能力74% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/925247API
curl https://kongchang.com/api/v1/knowledge/claims/925247MCP
get_claim(id=925247)