待验证50% 置信事实精确时间
自监督遗忘指模型在仅用自生成标签进行在线适应时,会逐渐丢失预训练阶段获得的通用能力。
1
来源数
50%
置信度
长期有效
时效性
2026/11/9
首次发现
来源
涉及实体
相关事实
待验证人设条件化(persona conditioning)被广泛用于用户模拟,但其有效性依赖于模型能否真正“遗忘”或“隔离”自身预训练知识;知识泄漏研究表明这种隔离不完全。77% 相似待验证主流基准测试题目在互联网上已被广泛讨论,模型训练数据中可能存在对题目的记忆,导致基准分数高估模型在真实未见任务上的能力76% 相似待验证递归训练大量使用以任务完成率、代码运行结果为奖励信号,缺乏对叙事一致性的显式监督,可能导致语言建模通用能力的灾难性遗忘,在小参数量模型上更明显76% 相似待验证对齐训练通常包含大量“拒绝有害请求”“声明自身局限”的示范数据,使模型倾向于在文本层面输出符合安全规范的表态,但这种文本层面的对齐并不自动迁移到动作层面。75% 相似待验证在视觉对齐训练阶段冻结LLM主干参数、分阶段训练、数据配比回放和LoRA等方法可缓解多模态训练中的灾难性遗忘问题75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1150288API
curl https://kongchang.com/api/v1/knowledge/claims/1150288MCP
get_claim(id=1150288)