待验证50% 置信事实精确时间

当角色标记因会话状态异常、上下文截断或内部缓存错误出现偏移时，模型可能把自己生成的文本误读为用户输入

1

来源数

50%

置信度

长期有效

时效性

2026/9/21

首次发现

来源

Claude诡异幻觉实录：AI角色错乱与自问自答现象解析

涉及实体

角色标记concept

相关事实

待验证数据预处理的prompt模板拼接、loss掩码、指令格式与模型chat template不匹配是微调中极易出现且难以察觉的沉默错误69% 相似待验证针对特定触发词的后门攻击可让模型在大多数情况下表现正常，仅在遇到特定输入时才输出预设错误信息，使常规评测基准难以捕捉68% 相似待验证充满误报的文本搜索结果可能导致 AI 代理修改错误的代码位置、遗漏必须同步更新的调用点，或消耗大量 token 甄别无关结果67% 相似待验证当 OCR 输出直接喂给 LLM 时，识别错误会被放大和传导，模型会基于错误文本产生看似合理实则错误的结论66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/938351

API

curl https://kongchang.com/api/v1/knowledge/claims/938351

MCP

get_claim(id=938351)