待验证50% 置信事实精确时间
Sigmoid 路由对每个专家独立打分,不做跨专家归一化,允许“多个专家同时被高度偏好”,而 Softmax 路由各专家分数归一化为概率,天然存在专家间竞争。
1
来源数
50%
置信度
长期有效
时效性
2026/10/30
首次发现
来源
涉及实体
相关事实
待验证Expert Choice路由中,每个专家根据自己的偏好从所有token中挑选固定数量的top-k token,专家维度的负载均衡在数学上严格保证,但可能出现某些token没有被任何专家选中的情况。72% 相似待验证自适应专家抑制根据每个token表示特征,在路由前预测哪些专家不太可能有用,并将这些专家的logit或概率置为极低值。69% 相似待验证多专家系统虽能通过参数隔离避免干扰,但在无域标签且声学分布重叠时,推理阶段选择正确专家十分困难。68% 相似已验证MoE实现中若不加约束,路由器会倾向于将token集中分配给少数专家,导致专家坍塌(Expert Collapse)68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115297API
curl https://kongchang.com/api/v1/knowledge/claims/1115297MCP
get_claim(id=1115297)