待验证50% 置信观点精确时间
Agent在CRM系统中的错误操作（如批量修改客户状态、发送错误邮件、删除销售管线记录）往往是不可逆的且会立即产生现实后果
1
来源数
50%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证Agent一次错误的工具调用可能造成真实世界后果，如发送错误邮件、执行危险数据库操作或调用付费接口产生意外费用75% 相似待验证成熟的商业级漏洞扫描器误报率常在30%-70%之间波动，AI Agent在复杂场景中的误判率可能更高，SRC平台对频繁提交无效报告的账号有惩罚机制60% 相似待验证当AI代理拥有shell执行权限或文件系统写入权限时，一个错误判断可能导致文件被删除或数据库被清空，且在'代理循环'中早期错误会被不断放大59% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改56% 相似待验证多智能体系统中错误传播表现为故障级联，由于LLM倾向于过度信任输入（sycophancy），错误一旦进入信息流很难被后续环节自行纠正56% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/898345API
curl https://kongchang.com/api/v1/knowledge/claims/898345MCP
get_claim(id=898345)