待验证50% 置信事实精确时间

MoE架构面临专家负载不均衡问题，不同专家被激活的频率差异悬殊，容易造成部分设备空闲、部分设备过载

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

AMD MoRI + vLLM：面向MoE的宽专家并行与RDMA KV缓存传输

涉及实体

Expert Load Imbalanceconcept

相关事实

待验证MoE 内核需要同时解决计算规整化和负载均衡两个问题，因专家间负载不均衡会拖累整体利用率75% 相似待验证MoE 的 Top-K 路由策略容易导致少数专家被过度使用（专家坍缩问题），需引入辅助负载均衡损失函数等技术解决73% 相似待验证MoE模型量化面临额外挑战，因不同专家权重分布差异大，统一量化方案易导致部分专家精度严重下降72% 相似待验证域随机化过度可能导致策略过于保守、性能下降；系统辨识需要大量工程测量工作且难以覆盖所有物理参数70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/995751

API

curl https://kongchang.com/api/v1/knowledge/claims/995751

MCP

get_claim(id=995751)