待验证50% 置信事实精确时间
在 MoE 模型中,量化误差会与路由决策耦合:专家权重失真可能改变路由分布,进而影响整体输出。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证MoE模型量化面临额外挑战,因不同专家权重分布差异大,统一量化方案易导致部分专家精度严重下降78% 相似待验证对 MoE 模型的低比特量化容易造成路由偏差,进而导致某些能力维度出现突然退化77% 相似待验证对MoE模型的量化需要格外谨慎,因稀疏激活使专家参数数值分布集中,低比特量化易造成路由偏差导致能力退化77% 相似待验证MoE 模型中路由器层对量化精度极为敏感,量化导致路由 logits 偏移会触发错误专家选择并引发性能非线性崩塌76% 相似已验证行为克隆存在分布偏移(Distribution Shift)问题,模型在训练分布外状态下容易犯错并累积误差,机器人控制领域称为复合误差72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029074API
curl https://kongchang.com/api/v1/knowledge/claims/1029074MCP
get_claim(id=1029074)