待验证50% 置信事实精确时间
实验结论二:一些自蒸馏方法在训练结束时给出漂亮分数,但训练过程中出现剧烈性能波动甚至崩溃后恢复的情况,仅看最终指标无法发现这些问题。
1
来源数
50%
置信度
长期有效
时效性
2026/10/15
首次发现
来源
自蒸馏智能体RL的真实检验:10种方法对比GRPO
rss2026/10/14
相关事实
待验证复现实验的第一次尝试因训练epoch太少(模型仍处于欠拟合状态)而未能观察到退化现象,说明训练是否充分收敛是观察退化现象的前提80% 相似待验证实验表明对同一数据进行超过4个epoch的重复训练,性能提升趋于停滞,有时还会出现轻微性能退化75% 相似待验证消融测试通过逐个将某特征权重置零观察性能变化来诊断特征是否有效:关闭后性能几乎不变说明特征设计有问题或冗余,显著下降则证明其发挥作用73% 相似待验证在同一训练批次中可能出现全部失败或全部成功的 rollout 组,此时组相对奖励信号会失效,组内样本之间没有相对优劣的梯度信息73% 相似待验证对于包含多步工具调用的Agentic工作流,任何一步的轻微退化都可能导致最终结果崩溃,不做分步评估几乎无法定位问题环节73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1038114API
curl https://kongchang.com/api/v1/knowledge/claims/1038114MCP
get_claim(id=1038114)