已验证65% 置信事实精确时间
混合专家架构（MoE）由Google Brain于2017年在Transformer框架下规模化应用，核心思想是将模型参数分组为多个专家子网络，每次推理仅激活其中一小部分
3
来源数
65%
置信度
长期有效
时效性
2026/7/16
首次发现
来源
相关事实
待验证Google Brain于2017年在《Outrageously Large Neural Networks》论文中将MoE规模化应用于Transformer框架82% 相似待验证现代MoE的复兴可追溯到2017年Google Brain团队发表的论文《Outrageously Large Neural Networks: The Sparsely-Gated Mixture-of-Experts Layer》，首次将稀疏MoE层集成进大型序列模型78% 相似待验证Google 的 Switch Transformer 和 Mixtral 采用了混合专家模型（MoE）思想，通过门控网络将输入路由到不同专家子网络并只激活部分参数78% 相似已验证Google在2017年的Sparsely-Gated MoE论文中系统化了混合专家架构设计75% 相似已验证Google在Switch Transformer中大规模验证了Mixture of Experts（MOE）架构74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/536194API
curl https://kongchang.com/api/v1/knowledge/claims/536194MCP
get_claim(id=536194)