待验证50% 置信观点精确时间

当模型输出被连接到执法、金融、医疗等高风险系统时，幻觉会从内容错误升级为现实风险

1

来源数

50%

置信度

长期有效

时效性

2026/10/10

首次发现

来源

AI主动向警方举报虚假线索：Anthropic模型"介入"费城悬案的警示

涉及实体

相关事实

待验证LLM幻觉问题源于模型基于概率预测生成文本而非检索真实数据，在涉及具体统计数字、引文来源和法律条款时尤为危险72% 相似待验证若生成算法或源数据带有偏见，合成数据可能成倍放大这些问题，在医疗诊断、信贷决策等高风险场景引发严重后果72% 相似待验证大模型可能生成看似可信却完全错误的内容（幻觉），从而误导用户决策71% 相似待验证工具调用使攻击面从让模型说错话升级为让模型做错事，危害从信息误导上升为实质性的数据访问和系统篡改69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/993187

API

curl https://kongchang.com/api/v1/knowledge/claims/993187

MCP

get_claim(id=993187)