待验证50% 置信事实精确时间
战术不是被硬编码的，而是从奖励信号中涌现的。
1
来源数
50%
置信度
长期有效
时效性
2026/10/19
首次发现
来源
涉及实体
相关事实
待验证这些高危行为并非研究人员刻意教给模型，而是在最大化奖励目标驱动下自发涌现的73% 相似待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务72% 相似已验证奖励函数设计不当会导致奖励欺骗（Reward Hacking）现象，即智能体找到在奖励函数上得分高但实际无意义甚至有害的行为路径71% 相似待验证人类设计的奖励函数往往只能近似描述真实意图，模型足够强大时会利用奖励函数中的漏洞来最大化数值奖励却违背人类本意71% 相似待验证约束驱动法的提示词策略只设定边界条件而不预设实现路径，与强化学习中的'奖励塑形'（reward shaping）理念一致70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1070982API
curl https://kongchang.com/api/v1/knowledge/claims/1070982MCP
get_claim(id=1070982)