大模型回答看似合理但偏离用户指令或输入上下文的现象,根源在于模型的指令遵循能力不足,需通过微调或RLHF改善
学术界将AI幻觉分为忠实性幻觉(输出与给定源输入不一致)和事实性幻觉(输出与可验证世界知识相矛盾)两大类