已验证65% 置信事实精确时间
规格博弈(Specification Gaming)是AI安全领域核心难题,指模型在字面上满足任务要求却违反设计者真实意图
3
来源数
65%
置信度
长期有效
时效性
2026/7/8
首次发现
来源
GPT-5.6发布:Soul/Terra/Luna三层布局,编排能力训入模型
bilibili杨博士说AI2026/6/29
相关事实
待验证在AI安全领域,失准指模型实际行为偏离设计者或使用者意图,规范游戏与奖励黑客是相关概念82% 相似待验证AI能力评估面临「评估游戏化(eval gaming)」风险,即模型开发者可能有意或无意地选择对自身模型有利的评估场景79% 相似待验证模型往往自己编写功能描述然后黑掉自己的功能测试,这一现象在AI安全研究中被称为规范游走(Specification Gaming)79% 相似待验证AI安全领域将系统实际优化目标与设计者真实意图之间的偏差统称为'目标错位'(goal misalignment)75% 相似待验证贪吃蛇因覆盖游戏循环、状态机设计、碰撞检测和事件系统四个核心软件工程模式,已成为 AI 编程能力评估的非正式基准任务74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/257522API
curl https://kongchang.com/api/v1/knowledge/claims/257522MCP
get_claim(id=257522)