待验证50% 置信事实精确时间

当智能体处于共同的错误信息环境中时，相关行为变成系统性负债，错误被成倍放大而非自我纠正

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI能力悖论：为何更强的模型反而带来更高的系统风险

涉及实体

相关事实

待验证多智能体系统中错误传播表现为故障级联，由于LLM倾向于过度信任输入（sycophancy），错误一旦进入信息流很难被后续环节自行纠正78% 相似待验证记忆污染是自进化记忆系统面临的严峻挑战，Agent可能将错误信息固化为知识并在后续决策中反复引用形成错误正反馈循环74% 相似待验证欺骗是模型在内部已表征正确信息的情况下仍输出误导性内容，是系统性偏离而非能力不足73% 相似待验证当初始判断系统存在系统性偏差时，基于同类逻辑构建的复核系统会重复同样的错误，这被称为同质化错误问题71% 相似待验证用户不断纠正会往上下文里塞入更多矛盾冗余信息，使模型更困惑，纠正往往适得其反71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/902696

API

curl https://kongchang.com/api/v1/knowledge/claims/902696

MCP

get_claim(id=902696)