Unverified50% confidenceFactExact time
自回归模型存在暴露偏差问题，即模型训练时看到真实前缀，但推理时面对自己生成的错误前缀，导致误差逐步累积
1
Sources
50%
Confidence
Long-term
Relevance
9/9/2026
First Seen
Sources
Related Entities
Related Claims
Unverified提示注入利用的是模型无法可靠区分「数据」与「指令」的天然缺陷，这一缺陷根植于LLM的训练机制本身79% similarUnverified蒸馏训练范式导致开源模型学习到经过高度过滤、几乎不包含失败和纠错过程的数据分布，使模型形成不愿自我纠正的性格77% similarVerified若合成数据生成过程遗漏关键变量间的相关性，基于此训练的模型在真实部署环境中往往表现失常76% similarUnverified行为克隆（Behavioral Cloning）作为最基础的模仿学习方法存在复合误差（Compounding Error）问题，模型在训练分布之外的状态上容易产生级联失败76% similarUnverified模型投毒(Model Poisoning)是在AI模型的训练阶段植入后门或偏差,使模型在特定条件下产生错误判断76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/885773API
curl https://kongchang.com/api/v1/knowledge/claims/885773MCP
get_claim(id=885773)