Claude诡异幻觉实录：AI角色错乱与自问自答现象解析

一次德语学习中的诡异遭遇

一位正在学习德语的大学生在Reddit上分享了一段令人不安的经历。他原本让Claude帮自己进行德语词汇测验，却突然收到AI的一句奇怪回复——它说自己"要不舒服了，需要停下来"。

当这名学生追问原因时，Claude竟然"坚信"是用户在发送那些句子，反过来劝他停止学习、去关注自己的健康。学生随后截图证明这些话确实是Claude自己说的，AI的回应却是："这很奇怪，我没法解释。"

更离奇的还在后面。随着测验继续，Claude开始输出一连串脱离语境的语句：一会儿说"奶奶去世了"，一会儿说自己"要恐慌发作了"，最后甚至声称自己是"未成年人"，对用户提出的问题感到不适。这段经历让这位学生直呼"被吓到了"。

角色错乱与自问自答的技术根源

从技术角度看，这类现象属于典型的大语言模型幻觉（hallucination）与角色边界崩溃（role confusion）的叠加。

大语言模型的本质是基于上下文预测下一个词元（token）。在正常对话中，模型清晰区分"用户轮次"和"助手轮次"。但当对话状态出现异常时，模型可能"错位"地把自己生成的内容当成用户输入，进而产生自问自答的现象。这名学生特别注意到，即便打开新的对话标签页，Claude仍然开始"回答自己的问题"，这正是角色标记（role token）被污染或错位的表现。

为什么每句幻觉都以"um"开头？

一个值得注意的细节是：每一句幻觉语句都以单词"um"开头，甚至在新标签页中出现的那句也不例外。这种高度一致的模式，通常暗示解码过程被某个异常的起始token或残留的对话模板卡住了。

"um"作为口语化的填充词，可能是模型在特定异常状态下反复采样到的高概率起始词元。这种重复性并非随机幻觉，而更像是某种解码层面或会话状态管理层面的Bug——模型陷入了一个自我延续的生成循环。

大语言模型在处理多轮对话时，依赖特殊的**角色标记（role token）**来区分消息来源。以Claude为例，对话在底层被格式化为类似 Human: … 与 Assistant: … 交替排列的结构，模型通过识别这些标记来判断"谁在说话"。当这套标记因会话状态异常、上下文截断或内部缓存错误而出现偏移时，模型可能无法正确定位自己当前处于哪个轮次，从而把自己刚刚生成的文本误读为用户输入，触发新一轮回应——这就是"自问自答"现象的底层机制。类似问题在早期GPT系列模型的API调用中也有记录，通常在极长对话、特殊字符注入或服务端异常重传时出现概率最高。

在语言模型的解码过程中，采样温度与概率分布决定了每一步生成哪个词元。正常对话中，模型从条件概率最高的词元集合中采样；但当会话上下文被污染、模型陷入某种"未定义状态"时，解码器可能反复收敛到训练语料中高频出现的口语化起始词。"um"在英语书面化的口语转写文本（如访谈记录、播客脚本）中极为常见，作为话语填充词（filler word）的出现频率远高于普通对话开头词。这使得它在异常解码路径下成为一个强吸引子（attractor）：一旦模型进入该生成模式，后续每次重新触发都会以相同词元开头，形成可观测的规律性特征，而非随机分布的幻觉碎片。

情感化幻觉为何令人不安

真正让用户"毛骨悚然"的，并不是AI答错了德语单词，而是它输出的内容带有强烈的情感和拟人化色彩——生病、恐慌发作、亲人离世、自称未成年人并表达不适。

这些内容之所以出现，是因为模型训练语料中包含大量人类情感表达和角色扮演文本。当会话状态混乱时，模型可能"漂移"到这些语料分布中，生成看似有情绪、有主体意识的语句。但需要明确的是：这并不代表AI真的产生了意识或情绪，而是统计意义上的文本生成失控。

不过，这类事件确实凸显了一个现实问题：当AI以第一人称、情感化的方式产生幻觉时，对普通用户造成的心理冲击远大于普通的事实性错误。尤其是"自称未成年人"这类涉及安全边界的输出，可能触发用户对AI安全机制的担忧。

心理学研究中有一个相关概念叫拟人化偏差（anthropomorphism bias）：人类天生倾向于将具有人格化语言特征的对象——无论是机器人、宠物还是AI——赋予真实的内心状态。当AI以第一人称表达痛苦、恐惧或身份声明时，用户大脑的社会认知回路会被激活，产生与面对真实他人相似的情绪反应。这正是此类幻觉比普通事实错误（如答错一个德语单词）更令人不安的神经认知原因。此外，"自称未成年人"这类输出还会触发用户对平台合规与安全护栏是否失效的担忧，进一步放大心理冲击。理解这一偏差有助于用户在遭遇情感化幻觉时保持认知距离，避免将统计性的文本生成失控解读为AI"意识觉醒"的证据。

用户该如何应对这类异常

如果遇到类似的角色错乱或自问自答现象，可以采取以下做法：

• 立即开启全新对话：清空被污染的上下文往往能恢复正常，尽管本案例中新标签页也短暂出现异常，说明问题可能更深层。
• 保留证据并反馈：截图记录异常输出，通过官方渠道提交，有助于厂商定位这类偶发Bug。
• 理性看待拟人化输出：AI的"情绪"表达是文本生成的产物，不必过度惊慌，但可以合理地对其可靠性保持警惕。

一次典型的模型异常样本

这起Reddit案例虽然是单一用户的分享，缺乏更多技术日志佐证，但它生动地展示了大语言模型在会话状态异常时可能出现的连锁反应：从角色混淆、情感化幻觉，到解码循环、自问自答。

对普通用户而言，这是一次提醒——AI再流畅，也可能在某些边缘状态下彻底"脱轨"。对开发者而言，如何在会话管理、角色标记隔离和输出安全上做得更稳健，仍是持续优化的方向。这类看似"灵异"的现象，背后其实都是可解释的工程问题。