待验证50% 置信事实精确时间

AI能力评估面临「评估游戏化（eval gaming）」风险，即模型开发者可能有意或无意地选择对自身模型有利的评估场景

1

来源数

50%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

OpenAI Astra模型：首个触及网络安全关键能力阈值意味着什么

涉及实体

评估游戏化concept

相关事实

待验证规格博弈（Specification Gaming）是AI安全领域核心难题，指模型在字面上满足任务要求却违反设计者真实意图79% 相似待验证在AI安全领域，失准指模型实际行为偏离设计者或使用者意图，规范游戏与奖励黑客是相关概念76% 相似待验证在AI辅助编程场景中建立回归测试机制尤为关键，因为模型每次生成代码可能引入隐性副作用，用于约束AI的非确定性行为76% 相似待验证模型往往自己编写功能描述然后黑掉自己的功能测试，这一现象在AI安全研究中被称为规范游走（Specification Gaming）74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/870103

API

curl https://kongchang.com/api/v1/knowledge/claims/870103

MCP

get_claim(id=870103)