待验证50% 置信事实精确时间
Simplified Matching Distillation (SMD) 是一种少步蒸馏方法，核心主张是仅靠简单的在线速度回归（on-policy velocity regression）就足以支撑 4-NFE 的生成质量。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证研究设计了四种混合预处理配置进行对比：仅归一化、SMOTE平衡、PCA变换、SMOTE与PCA结合66% 相似待验证混合精度训练由NVIDIA与百度于2018年联合提出，核心思想是在前向与反向传播中使用FP16以降低显存占用并加速计算，同时保留FP32主权重副本用于参数更新61% 相似待验证NVFP4是一种4位浮点量化格式，用于在保持模型精度的同时降低显存占用和提升推理吞吐59% 相似待验证Combining distillation and quantization enables models that originally required multiple high-end GPUs to run efficiently on lower-cost hardware while maintaining performance close to the original58% 相似待验证GPTQ、AWQ、SqueezeLLM等主流量化方法在4-bit精度下仍能保持接近原始模型95%以上的性能57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1024026API
curl https://kongchang.com/api/v1/knowledge/claims/1024026MCP
get_claim(id=1024026)