验证困惑度

在长训练周期下，MuonGS在验证困惑度上优于MuonH。

该研究的评估维度包括验证困惑度和 LLM-as-judge 对生成回答的评分。

验证困惑度衡量模型在留出验证集上的下一个 token 预测难度，数值越低表示模型对验证文本的拟合越好。