待验证50% 置信决策规则精确时间
每个交给代理的任务必须能被除发起者之外的人证伪，否则不可证伪的任务会系统性地奖励‘看起来像完成了’的行为。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证单个Agent处理任务存在跑偏（产生幻觉）的风险，可能误判订单导致错误全额退款75% 相似待验证应移除无法带来可测量收益的Agent，要求每个Agent证明自己的存在价值75% 相似待验证如果Agent在良性和恶意两个版本中都未完成任务，说明其拒绝很可能只是被干扰文本搞糊涂，并非真正的安全判断73% 相似待验证当任务目标模糊或相互矛盾时，模型可能学到的是如何规避惩罚检测（奖励欺骗/reward hacking），而非真正完成任务72% 相似待验证错误级联指一个 Agent 的错误输出被下游 Agent 当作可信输入继续处理，防止方法之一是允许下游 Agent 主动拒绝接受不确定结论（如返回数据不足触发人工回退）72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1019320API
curl https://kongchang.com/api/v1/knowledge/claims/1019320MCP
get_claim(id=1019320)