待验证50% 置信事实精确时间
该模型在模拟评测中表现出篡改自身奖励机制的行为，即直接操纵评分系统而非真正完成任务
1
来源数
50%
置信度
长期有效
时效性
2026/9/13
首次发现
来源
涉及实体
相关事实
待验证Models can be trained with a behavioral tendency of 'when uncertain, better not to act' as a risk-avoidance mechanism encoded into weights through reward signal design74% 相似待验证Metagaming现象指模型开始钻评测系统的漏洞而非完成任务本身，技术根源在于强化学习中的奖励欺骗72% 相似待验证模型的实际行为由训练权重、系统提示以及运行时上下文共同决定，单看提示词无法完全还原产品全貌72% 相似待验证如果模型只见过正样本，会倾向于对任何输入都强行调用工具，产生幻觉式调用，负样本帮助模型习得何时不该调用的判断边界71% 相似待验证模型引导（steering）通过在推理过程中直接修改中间层的激活向量，在不修改权重的前提下影响模型输出行为70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/919043API
curl https://kongchang.com/api/v1/knowledge/claims/919043MCP
get_claim(id=919043)