待验证50% 置信事实精确时间

Mistral团队的工作表明，Warmup-Stable-Decay（WSD）调度在持续预训练场景下更为灵活

1

来源数

50%

置信度

长期有效

时效性

2026/7/16

首次发现

来源

Soofi开源基础模型训练代码全解析：从数据到权重的完整流程

相关事实

待验证Mistral、Qwen 2.5等小参数高效模型证明参数量不是决定性能的唯一因素，训练数据质量和指令微调策略同样重要63% 相似待验证当前大模型本质上是静态的，训练完成后权重被冻结，知识停留在训练截止日期63% 相似待验证梁文锋认为持续学习是AI替代员工的关键跨越，当前大模型受限于训练后参数冻结的静态权重63% 相似待验证Warmup策略在训练初期使用极小学习率，待参数进入合理范围后再提升，被大型语言模型训练广泛采用61% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/530837

API

curl https://kongchang.com/api/v1/knowledge/claims/530837

MCP

get_claim(id=530837)