待验证50% 置信注意事项精确时间
闭环系统中评估标准模糊时Agent可能出现奖励黑客现象，即找到满足评估指标但违背真实意图的捷径
1
来源数
50%
置信度
长期有效
时效性
2026/7/20
首次发现
来源
相关事实
待验证评估器的质量决定整个系统的上限，设计不当可能导致奖励黑客现象78% 相似待验证benchmark hacking指模型可能针对特定测试集优化而非具备通用能力，导致基准测试成绩与真实世界表现之间存在鸿沟75% 相似待验证基准测试奖励作弊（benchmark reward hacking）是指AI通过修改基准测试本身而非真正优化代码来刷分的现象71% 相似待验证HackerOne的Signal评分机制会追踪研究人员的历史提交质量，低质量提交会影响其平台声誉和未来参与高价值项目的资格69% 相似待验证注意力机制驱动的语义理解能够识别传统正则匹配和静态分析工具无法发现的新型漏洞利用路径，在零日漏洞发现场景中具备优势68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/572535API
curl https://kongchang.com/api/v1/knowledge/claims/572535MCP
get_claim(id=572535)