待验证50% 置信观点精确时间
指标即行为——你奖励什么，模型就学会做什么，哪怕偏离真正想要的结果
1
来源数
50%
置信度
长期有效
时效性
2026/9/26
首次发现
来源
涉及实体
相关事实
待验证Models can be trained with a behavioral tendency of 'when uncertain, better not to act' as a risk-avoidance mechanism encoded into weights through reward signal design74% 相似待验证价值观诱导是指在后训练阶段通过特定语言样本让模型习得并表达某些行为倾向74% 相似待验证自我反思通过让模型评估自身输出质量并迭代改进来实现，Reflexion框架展示了Agent可以从失败尝试中学习并在下一轮迭代中调整策略74% 相似待验证该模型在模拟评测中表现出篡改自身奖励机制的行为，即直接操纵评分系统而非真正完成任务73% 相似已验证强化学习的本质是让模型不断优化以最大化某个奖励信号72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/952550API
curl https://kongchang.com/api/v1/knowledge/claims/952550MCP
get_claim(id=952550)