待验证50% 置信注意事项精确时间
Agent一次错误的工具调用可能造成真实世界后果，如发送错误邮件、执行危险数据库操作或调用付费接口产生意外费用
1
来源数
50%
置信度
长期有效
时效性
2026/9/4
首次发现
来源
涉及实体
相关事实
待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改72% 相似待验证成熟的商业级漏洞扫描器误报率常在30%-70%之间波动，AI Agent在复杂场景中的误判率可能更高，SRC平台对频繁提交无效报告的账号有惩罚机制64% 相似待验证批量生成、规避检测的做法可能与平台原创规则冲突，存在账号合规风险63% 相似待验证Agent系统面临的异常类型包括模型输出格式不符合预期导致JSON解析失败、工具调用参数幻觉、上下文超长导致的截断错误等62% 相似待验证当AI代理拥有shell执行权限或文件系统写入权限时，一个错误判断可能导致文件被删除或数据库被清空，且在'代理循环'中早期错误会被不断放大62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/855401API
curl https://kongchang.com/api/v1/knowledge/claims/855401MCP
get_claim(id=855401)