待验证50% 置信基准精确时间

大语言模型训练通常能达到40%–60%的MFU，而朴素RL训练的MFU往往不足5%

1

来源数

50%

置信度

长期有效

时效性

2026/7/12

首次发现

来源

强化学习算力优化实战：提升CPU与GPU利用率的核心策略

redditr/reinforcementlearning2026/7/10

相关事实

待验证业界顶尖训练系统（如Google的PaLM训练、Meta的LLaMA训练）通常能达到40%-60%的MFU，而设计不当的系统可能低于30%75% 相似待验证微调通常只需原始训练成本的百分之一甚至更少，便能获得接近专用模型的领域表现72% 相似待验证QAT通常需要在原始训练数据上微调10%~20%的epoch，且对学习率调度敏感71% 相似待验证指令微调不需要从头训练，通常仅需基础训练计算量的1%以下即可显著改变模型行为模式70% 相似待验证Warmup策略在训练初期使用极小学习率，待参数进入合理范围后再提升，被大型语言模型训练广泛采用68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/488972

API

curl https://kongchang.com/api/v1/knowledge/claims/488972

MCP

get_claim(id=488972)