待验证50% 置信基准精确时间

当教师生成的支持集保持完全相同时，仅用软目标替代硬重放就能让最终平均损失再降低0.055

1

来源数

50%

置信度

长期有效

时效性

2026/10/7

首次发现

来源

条件锚定蒸馏CAGD：破解语言模型持续学习的灾难性遗忘

涉及实体

相关事实

待验证重训存在取舍，在更干净的验证分布上部分极高的分数出现了轻微下降，但团队认为值得65% 相似待验证学生每多经历一个僵局回合，下一回合成功脱困的几率降低12.7%（AOR=0.873，p<.001）64% 相似待验证三代模型的预训练验证损失呈稳定下降趋势：2.87→2.78→2.5964% 相似待验证通过蒸馏，参数量仅为教师模型十分之一的学生模型往往能保留教师模型80%-95%的性能63% 相似待验证降低LoRA权重（通常从默认的1.0降至0.6-0.8）配合6-8步推理，是在效率和质量之间找到更优平衡的折中方案63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/982978

API

curl https://kongchang.com/api/v1/knowledge/claims/982978

MCP

get_claim(id=982978)