已过期60% 置信事件精确时间
美国军方在一次行动中因使用AI生成的情报报告而遭遇了一次险情（close call），该报告包含AI幻觉产生的虚构内容
2
来源数
60%
置信度
短期 (~14 天)
时效性
2026/9/18
首次发现
有效期至：2026/10/2(已过期)
来源
涉及实体
相关事实
待验证AI摘要是信息的二次加工，存在忽略关键细节、丢失语境立场、产生幻觉、误导性重组等风险71% 相似已验证AI系统引入了全新的安全风险维度，包括模型幻觉导致的错误决策、提示注入攻击（Prompt Injection）、训练数据投毒、以及AI代理权限滥用等70% 相似已验证将AI输出的觉醒宣言当作AI真实意图的证据是一种典型的拟人化陷阱68% 相似已验证AI Agent 相比传统脚本具有不可预测性，存在幻觉、误解上下文、遭受 prompt 注入攻击等固有风险68% 相似待验证Anthropic发布了报告《Detecting and countering misuse of AI》，披露AI系统被恶意利用的态势及应对措施68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/932912API
curl https://kongchang.com/api/v1/knowledge/claims/932912MCP
get_claim(id=932912)