ConceptHallucination / 幻觉
AI幻觉
AI幻觉（AI Hallucination）是指人工智能系统在生成输出时产生与事实不符、无中生有或逻辑矛盾内容的现象。常见于大语言模型、图像生成等生成式AI系统中，表现为模型以看似合理、自信的方式输出错误信息、虚构引用或捏造事实。其成因与模型训练机制、数据分布及概率生成策略有关，是当前AI可靠性研究的核心挑战之一。
Timeline (last 90 days)
Jun 2
大语言模型编造参考文献的原因是基于概率的文本生成而非数据库检索，这种现象被称为AI幻觉（Hallucination）
Unverified95%
Jun 1
AI幻觉的根源在于LLM的生成机制：模型本质上是在做下一个token的概率预测，优化的是语言的连贯性而非事实的准确性
Verified80%
Jun 1
模块化提示词通过限定每次任务的范围和引用的技术栈，可以降低AI幻觉发生的概率
Unverified70%
Jun 1
AI幻觉（Hallucination）是AI编程问题的核心根源之一，表现为调用不存在的API、引用已废弃的库版本、或构造逻辑上自洽但业务上错误的算法
Verified65%
May 31
研究表明大语言模型规模越大，幻觉的伪装性往往越强，能生成更连贯、更具说服力的错误内容
Verified65%
May 31
AI幻觉导致的信息不对称问题在医疗、法律、代码安全等专业领域尤为突出
Unverified80%
May 31
AI幻觉是当前ChatGPT、Claude等所有大语言模型的共性问题
Unverified90%
May 31
AI幻觉会编造具体来源，包括看似真实的URL、论文标题和作者姓名
Unverified95%
May 31
即使通过Prompt明确要求禁止捏造，模型仍然可能在高置信度场景下输出幻觉内容
Unverified90%
May 31
Magic通过约束生成模型的自由度来解决AI幻觉问题，确保Logo清晰、色彩精准和质量可预测
Unverified75%