待验证50% 置信注意事项精确时间
MoE 模型中路由器层对量化精度极为敏感，量化导致路由 logits 偏移会触发错误专家选择并引发性能非线性崩塌
1
来源数
50%
置信度
长期有效
时效性
2026/7/21
首次发现
来源
相关事实
待验证对 MoE 模型的低比特量化容易造成路由偏差，进而导致某些能力维度出现突然退化75% 相似待验证对MoE模型的量化需要格外谨慎，因稀疏激活使专家参数数值分布集中，低比特量化易造成路由偏差导致能力退化72% 相似待验证MoE模型的Expert路由阶段中，不同线程被分派到不同Expert会导致严重的Warp分歧问题70% 相似待验证雅可比透镜在MoE上应用需处理路由决策的不可微性（通常通过straight-through estimator近似），技术难度显著高于Dense模型70% 相似待验证MoE模型量化面临额外挑战，因不同专家权重分布差异大，统一量化方案易导致部分专家精度严重下降69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/581910API
curl https://kongchang.com/api/v1/knowledge/claims/581910MCP
get_claim(id=581910)