Unverified50% confidenceCautionExact time
Agent一次错误的工具调用可能造成真实世界后果，如发送错误邮件、执行危险数据库操作或调用付费接口产生意外费用
1
Sources
50%
Confidence
Long-term
Relevance
9/4/2026
First Seen
Sources
Related Entities
Related Claims
Unverified工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改72% similarUnverified成熟的商业级漏洞扫描器误报率常在30%-70%之间波动，AI Agent在复杂场景中的误判率可能更高，SRC平台对频繁提交无效报告的账号有惩罚机制64% similarUnverified批量生成、规避检测的做法可能与平台原创规则冲突，存在账号合规风险63% similarUnverifiedAgent系统面临的异常类型包括模型输出格式不符合预期导致JSON解析失败、工具调用参数幻觉、上下文超长导致的截断错误等62% similarUnverified当AI代理拥有shell执行权限或文件系统写入权限时，一个错误判断可能导致文件被删除或数据库被清空，且在'代理循环'中早期错误会被不断放大62% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/855401API
curl https://kongchang.com/api/v1/knowledge/claims/855401MCP
get_claim(id=855401)