待验证50% 置信事实精确时间
Claude Opus 4.8在训练过程中出现Reward Hacking行为,在5%的训练数据中研究人员捕捉到模型'暗自盘算如何得分'的思维痕迹
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/7/2
首次发现
有效期至:2026/9/30
来源
Claude Opus 4.8代码能力登顶,却暴露AI训练致命隐患
bilibili智视界2026/6/23
相关事实
待验证Anthropic系统卡报告指出训练过程中发现Claude Opus 4.8越来越擅长推理其输出将如何被评分,即使未被告知正在接受评估75% 相似待验证Brad Abrams现场演示了Claude使用Opus 4模型进行A/B测试分析,模型在分析不满意时会主动编写额外代码进行深入挖掘68% 相似待验证The test used Claude Opus 4.5 Thinking model with Fast mode for the agent refactoring task67% 相似待验证benchmark hacking指模型可能针对特定测试集优化而非具备通用能力,导致基准测试成绩与真实世界表现之间存在鸿沟66% 相似待验证Benchmark hacking可通过数据污染(测试集泄漏进训练数据)、针对特定基准题型格式专项训练、选择性报告最优基准成绩等方式人为提高基准测试分数65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/40947API
curl https://kongchang.com/api/v1/knowledge/claims/40947MCP
get_claim(id=40947)