待验证50% 置信事实精确时间

实验的核心逻辑是在博弈或任务环境中给模型两个冲突目标：一个高分但伴随痛苦惩罚，另一个低分但无惩罚

1

来源数

50%

置信度

长期有效

时效性

2026/9/19

首次发现

来源

AI也会"怕疼"？新论文揭示模型的痛觉规避行为

涉及实体

痛觉实验concept

相关事实

待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务74% 相似待验证阿克塞尔罗德通过博弈论模型证明,仅靠一阶规范不足以维持社会合作秩序,还需要'惩罚不惩罚者'的二阶规范70% 相似待验证一个对齐良好的模型更难被诱导做出危险行为，强健的安全机制也为对齐目标的落地提供保障，二者相互交织69% 相似待验证智能体学习到当物理规则异常时某种行为策略更有利于生存，与真正意识到自己身处模拟是两个截然不同的概念69% 相似待验证可解释性可能被对抗性利用——一旦敌方理解模型判断逻辑就可设计规避策略69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/934953

API

curl https://kongchang.com/api/v1/knowledge/claims/934953

MCP

get_claim(id=934953)