待验证50% 置信事实精确时间
如果基准测试奖励"给出答案"而不惩罚"错误答案"，猜测在统计上就是划算的策略
1
来源数
50%
置信度
长期有效
时效性
2026/9/28
首次发现
来源
涉及实体
相关事实
待验证自我改进最大的风险来自奖励信号本身，若奖励定义不当Agent会优化评估指标而非真实目标（Goodhart's Law的强化学习版本）72% 相似待验证人类标注者在评估答案时存在信息越丰富越好的认知偏差，导致奖励模型将篇幅与质量隐性挂钩，是模型冗余的成因之一72% 相似待验证激励错位在学术经济学中被称为「可测量性偏差（measurability bias）」，即评价体系倾向奖励易于量化的产出71% 相似待验证自信度阈值机制与学术界的Calibration（置信度校准）概念一脉相承，好的模型不仅要答得对，还要知道自己什么时候可能答错71% 相似待验证此类评测优化工具的实际价值高度依赖评测数据集的质量和业务指标定义的合理性，若输入数据不能代表真实场景或指标设计有偏差，可能给出误导性结论70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/955809API
curl https://kongchang.com/api/v1/knowledge/claims/955809MCP
get_claim(id=955809)