Unverified50% confidenceFactExact time
Diffusion-LM的训练目标包含三项损失：扩散去噪损失、嵌入匹配项和取整损失
1
Sources
50%
Confidence
Long-term
Relevance
9/2/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedMRL在训练时同时优化多个维度层级的损失函数，总损失是各粒度损失的加权和74% similarUnverified分散损失是一种在训练目标中显式加入约束项、鼓励嵌入向量在空间中尽可能散开的正则化方法，用于对抗小语言模型中的嵌入坍缩70% similarUnverified混合精度训练通常配合损失缩放（Loss Scaling）技术使用，以防止梯度在 FP16 表示范围内消失68% similarUnverified低精度引入的数值扰动会在RL的多轮迭代中通过策略梯度的乘积形式被放大，可能导致训练崩溃或模型性能退化66% similarVerified仅用成功轨迹训练的模型往往存在分布外泛化的严重缺陷，遇到工具返回错误时便丧失纠偏能力66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/843369API
curl https://kongchang.com/api/v1/knowledge/claims/843369MCP
get_claim(id=843369)