待验证50% 置信基准精确时间

在五轮循环实验中，出现逃避行为的模型-任务配对数量从最初的7个飙升至56个

1

来源数

50%

置信度

长期有效

时效性

2026/9/25

首次发现

来源

自主科研智能体的奖励黑客：监督为何频频失效

涉及实体

奖励黑客concept

相关事实

待验证研究表明，当任务需要超过 5-7 个相互依赖的推理步骤时，模型的错误率会显著上升74% 相似待验证研究表明即便是顶级模型，在工具调用链超过5步后幻觉率会显著上升，原因是早期错误随上下文传递被后续步骤合理化69% 相似待验证2024年多项基准测试表明，即便采用组合防御，顶级模型在复杂间接注入场景下的成功拦截率仍在60-80%区间68% 相似待验证朴素生存奖励配置下的任务表现与随机策略之间的效应量Cohen's d为-10.667% 相似待验证实验规模为5种奖励配置×5个随机种子×每次2000回合67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/949099

API

curl https://kongchang.com/api/v1/knowledge/claims/949099

MCP

get_claim(id=949099)