待验证50% 置信观点精确时间

拥有真实操作权限且会产生幻觉的AI Agent可能在物理世界中造成实际后果，而聊天机器人的幻觉仅导致错误答案

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

AI助手误拨紧急电话：权限失控背后的安全警示

涉及实体

AI Agentconcept

相关事实

已验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险79% 相似已验证AI幻觉可分为事实性幻觉（与外部真实世界不符）和忠实性幻觉（与用户给定约束或上下文不符）两类，解决路径完全不同78% 相似待验证AI聊天机器人可能因算法设计不当而强化负面情绪或传播有害信息77% 相似待验证AI系统应在交互中对'我不是真人、没有意识'保持透明,避免用户产生错误认知77% 相似待验证给 AI 代理边界清晰的任务时表现出色，面对含糊或开放性需求时容易产生幻觉、偏离方向或陷入循环76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/903341

API

curl https://kongchang.com/api/v1/knowledge/claims/903341

MCP

get_claim(id=903341)