待验证90% 置信事实精确时间
MoRI（Mixture of Routed Inference）量化通信策略在 dispatch 阶段使用 FP4 精度，combine 阶段使用 FP8 精度，实现了 2.56 倍的带宽压缩
1
来源数
90%
置信度
长期有效
时效性
2026/5/28
首次发现
来源
AMD MI355X击败B200：DeepSeek-R1推理TCO低5%的全栈优化解析
twitterlmsysorg2026/5/28
涉及实体
相关事实
已验证混合精度训练将权重保存为FP32，而前向和反向传播计算使用FP16或BF16，可将显存占用减少近一半68% 相似待验证量化技术将FP32（32位）权重降至INT4（4位），理论压缩比达8倍，但会引入精度损失68% 相似已验证量化技术将神经网络权重从高精度浮点数（如FP32、FP16）压缩为低位整数（如INT8、INT4），现代量化方案包括GPTQ、AWQ、GGUF的K-quant系列67% 相似已验证INT4量化将神经网络权重从FP32压缩为4位整数表示，模型体积缩减约8倍67% 相似已验证量化技术通过将模型权重从FP32/FP16压缩为INT8/INT4等低精度格式，可将模型体积缩减50%-75%67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/612API
curl https://kongchang.com/api/v1/knowledge/claims/612MCP
get_claim(id=612)