待验证50% 置信观点精确时间
静默返回错误答案的工具比直接报错的工具更危险,因为在Agent管道中工具输出是中间状态,不经人眼便可能参与多步推理
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证间接提示词注入的危险性高于直接注入,因为智能体往往无法区分需要处理的内容和应当遵循的指令78% 相似待验证在LangGraph多智能体系统中,Agent交接时传递完整对话转录会浪费token和推理算力,并引入误读风险,因为下游Agent需要重新发现哪些决策已确定、哪些工具结果权威、哪些问题未解决77% 相似待验证Agent中的幻觉问题比普通对话场景更严重,因为错误推理会通过行动链路放大75% 相似待验证主动执行的智能体一旦出错(如自动发布错误内容),后果比被动工具更严重,对告警与人工确认机制要求极高74% 相似待验证给Agent一个用得好的工具往往优于给它五个很少用的工具,因为工具过多会增加推理成本和出错概率73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/997422API
curl https://kongchang.com/api/v1/knowledge/claims/997422MCP
get_claim(id=997422)