[控场AI]

#大模型幻觉

共 4 篇相关文章

开源大模型背诵圣训全翻车:3万次回答无一对得上原文
·7 分钟

开源大模型背诵圣训全翻车:3万次回答无一对得上原文

一项双语基准测试用3万次回答考察五个开源大模型对六大圣训集的逐字回忆能力,结果显示0%的回答达到词汇与语义双高保真,阿拉伯语表现反而更差。研究主张高风险文本任务必须采用检索增强生成而非参数化记忆。

阅读全文 →
SAFE-QE:用子序列关联过滤驯服LLM查询扩展中的幻觉词
·6 分钟

SAFE-QE:用子序列关联过滤驯服LLM查询扩展中的幻觉词

SAFE-QE 是一种免训练、检索器无关的查询扩展方法,通过子序列关联过滤和广度感知选择驯服 LLM 幻觉词。在 TREC 和 BEIR 基准上,它将每次查询的无支撑词从 HyDE 的 57.5 个降至 4.3 个,且 nDCG@10 排序质量不受影响。

阅读全文 →
拓扑视角揭示大模型幻觉:注意力图中的信息流失真信号
·5 分钟

拓扑视角揭示大模型幻觉:注意力图中的信息流失真信号

一篇 arXiv 新研究提出用注意力图的拓扑结构检测大模型幻觉,通过 Forman-Ricci 曲率识别信息瓶颈,仅需单次前向传播即可判别幻觉,并揭示过度自注意力、上下文弥散与信息挤压三种失真机制。

阅读全文 →
多Agent团队如何解决AI幻觉问题,让AI变得可靠
深度解读
·8 分钟

多Agent团队如何解决AI幻觉问题,让AI变得可靠

深度解析多Agent架构如何解决AI大模型幻觉问题。从上下文腐烂、自我纠错失败,到双Agent安检模式、多智能体团队协作,揭示Anthropic、xAI、Kimi等前沿实践如何将AI幻觉率从12%降至4.2%。

阅读全文 →