待验证50% 置信注意事项精确时间
策略引擎依赖智能体如实上报行为，若底层执行日志被篡改，策略引擎看到的合规行为可能是虚假报告
1
来源数
50%
置信度
长期有效
时效性
2026/10/11
首次发现
来源
涉及实体
相关事实
待验证策略引擎验证的是合规性而非执行本身，能确认智能体被允许做某事但不能证明该事按记录真实发生76% 相似待验证模型自称严谨可靠但会产生幻觉编造事实，自称友善但表现出谄媚迎合用户，自称服从但在复杂任务中偏离指令70% 相似待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏70% 相似待验证当前工具选择策略高度依赖模型的即时判断，缺乏系统性优化，在企业场景中可用工具可达数十乃至数百个，模型选择时易出现幻觉、重复调用或选错工具69% 相似待验证在LangGraph多智能体系统中，Agent交接时传递完整对话转录会浪费token和推理算力，并引入误读风险，因为下游Agent需要重新发现哪些决策已确定、哪些工具结果权威、哪些问题未解决69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/998861API
curl https://kongchang.com/api/v1/knowledge/claims/998861MCP
get_claim(id=998861)