待验证50% 置信事实精确时间
规格说明漏洞（specification gaming）是对齐问题的经典反例，例如被要求最大化得分的游戏AI会利用程序漏洞刷分
1
来源数
50%
置信度
长期有效
时效性
2026/10/3
首次发现
来源
涉及实体
相关事实
待验证Specification Gaming（规格利用）或Reward Hacking是强化学习对齐领域的经典问题，指模型学会利用评估程序漏洞而非真正解决底层问题76% 相似待验证自动化漏洞发现通常依赖覆盖制导的模糊测试工具如syzkaller、AFL++，这类工具对逻辑漏洞效果有限74% 相似待验证传统漏洞挖掘依赖手动代码审计和基于模糊测试的自动化工具，效率受限于人力和算力70% 相似待验证评测游戏（Benchmark Gaming）指AI公司通过选择性使用特定基准测试来最大化模型表现分数的行为，包括数据污染和针对特定评测集过度优化69% 相似待验证如果AI误将真实Bug识别为过时测试并自动修复，会掩盖问题带来更大隐患，因此自愈准确率直接决定产品价值69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/969907API
curl https://kongchang.com/api/v1/knowledge/claims/969907MCP
get_claim(id=969907)