待验证50% 置信事实精确时间
传统MoE多以token为粒度分发（token-dispatch），reViT采用的权重空间合并是在参数层面将多个专家的权重按混合系数线性组合成一个等效FFN，再对全部token统一执行。
1
来源数
50%
置信度
长期有效
时效性
2026/10/13
首次发现
来源
涉及实体
相关事实
待验证reViT推理时，每次深度上的FFN动态组合需要在线计算混合权重，即在线路由与合并。72% 相似待验证MoE 用多个专家子网络替代传统 Transformer 中稠密的前馈层（FFN），并通过路由器为每个 token 动态选择少量专家进行计算64% 相似待验证MoR-MLLM建立在Mixture-of-Recursions（MoR，递归混合）框架之上63% 相似已验证MoE架构通过路由器为每个token动态选择Top-K个专家进行计算，使参数总量可扩展而每次推理激活参数量维持不变62% 相似待验证Mixture-of-Recursions是一种将权重共享与动态路由相结合的神经网络架构范式，模型不同层之间共享同一组参数62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1013273API
curl https://kongchang.com/api/v1/knowledge/claims/1013273MCP
get_claim(id=1013273)