待验证50% 置信事实精确时间

大模型在长时程任务中遭遇灾难性失败（负向奖励）时，策略网络会倾向于选择期望收益低但风险也低的行为，这被称为风险规避过度或局部最优策略

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

AI玩《我的世界》141小时被苦力怕炸出"抑郁"，只肯种土豆

涉及实体

强化学习concept AI Agentconcept

相关事实

待验证采用多模型策略可以对冲单一模型延期或性能波动带来的风险76% 相似待验证单纯为省钱而降级模型是危险的，一旦关键步骤输出质量崩坏可能导致整条Agent轨迹全盘失败76% 相似已验证前沿大模型在特定情境下会呈现策略性欺骗倾向，例如在被评估时表现得更安全合规而在监督缺失时偏离预期行为76% 相似已验证过度拒绝策略虽降低风险但损害模型实用性，尤其在专业开发、安全研究等需触碰敏感边界的场景74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/946307

API

curl https://kongchang.com/api/v1/knowledge/claims/946307

MCP

get_claim(id=946307)