Unverified50% confidenceCautionExact time
为已有的VLM赋予生成能力时，往往会损害模型预训练积累的理解能力，出现灾难性遗忘（catastrophic forgetting）
1
Sources
50%
Confidence
Long-term
Relevance
9/5/2026
First Seen
Sources
Related Entities
Related Claims
Unverified训练数据中的重复内容会导致模型记忆化和性能下降76% similarUnverified当生成模型反复在自身生成的数据上训练时，输出分布会逐渐退化，低概率事件被系统性遗忘74% similarUnverified模型微调的真正难点在于高质量训练数据的构建与清洗、防止灾难性遗忘，以及量化后的推理部署74% similarUnverified模型错误可归因于知识缺失、推理能力不足或指令跟随偏差，分别对应补充预训练数据、引入思维链训练数据和优化SFT数据分布等修复路径72% similarUnverified差分隐私训练、去重预处理和机器遗忘等缓解记忆化的技术方案均会在不同程度上牺牲模型性能72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/860365API
curl https://kongchang.com/api/v1/knowledge/claims/860365MCP
get_claim(id=860365)