Unverified50% confidenceFactExact time
模型压缩技术（量化、剪枝、知识蒸馏）会不成比例地损害模型的事实准确性，量化后模型在事实性问答任务上的幻觉率可能显著上升
1
Sources
50%
Confidence
Long-term
Relevance
8/6/2026
First Seen
Sources
Related Claims
Unverified推理能力可通过知识蒸馏和强化学习微调压缩，但事实性知识的存储依赖参数规模，压缩会导致知识覆盖面下降和幻觉率上升76% similarUnverifiedToken压缩存在权衡：某些看似冗余的上下文信息可能对模型推理至关重要，激进压缩可能影响代码生成、复杂推理等场景的输出质量75% similarUnverified模型微调的真正难点在于高质量训练数据的构建与清洗、防止灾难性遗忘，以及量化后的推理部署74% similarUnverified大模型输出的是最可能出现的下一个词而非对事实的精确检索，在训练数据覆盖稀疏的领域会产生幻觉74% similarUnverified过度压缩会损害模型输出质量，压缩效果通常通过困惑度和MMLU、HellaSwag等下游任务准确率衡量73% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/695811API
curl https://kongchang.com/api/v1/knowledge/claims/695811MCP
get_claim(id=695811)