Unverified50% confidenceFactExact time
如果基准测试奖励"给出答案"而不惩罚"错误答案"，猜测在统计上就是划算的策略
1
Sources
50%
Confidence
Long-term
Relevance
9/28/2026
First Seen
Sources
Related Entities
Related Claims
Unverified自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）72% similarUnverified人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一72% similarUnverified激励错位在学术经济学中被称为「可测量性偏差（measurability bias）」，即评价体系倾向奖励易于量化的产出71% similarUnverified自信度阈值机制与学术界的Calibration（置信度校准）概念一脉相承，好的模型不仅要答得对，还要知道自己什么时候可能答错71% similarUnverified此类评测优化工具的实际价值高度依赖评测数据集的质量和业务指标定义的合理性，若输入数据不能代表真实场景或指标设计有偏差，可能给出误导性结论70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/955809API
curl https://kongchang.com/api/v1/knowledge/claims/955809MCP
get_claim(id=955809)