Unverified50% confidenceFactExact time
MoE架构历史可追溯至1991年Jacobs等人的原始论文，Google于2017年将其应用于序列到序列模型并显著提升性能
1
Sources
50%
Confidence
Long-term
Relevance
7/22/2026
First Seen
Sources
Related Claims
VerifiedMoE（混合专家）的核心思想可追溯至1991年Jacobs等人提出的早期混合专家框架，谷歌2021年的Switch Transformer将其推入大规模语言模型时代75% similarVerifiedMoE架构最早由Jacobs等人在1991年提出，近年来被Google的Switch Transformer和Mixtral等模型重新带入主流74% similarUnverifiedMoE概念最早由Jacobs等人于1991年提出，谷歌2017年将其规模化至语言模型，Mistral的Mixtral系列将稀疏MoE带入开源社区74% similarVerifiedGoogle在2017年的Sparsely-Gated MoE论文中系统化了混合专家架构设计71% similarUnverified谷歌于2017年通过Shazeer等人的Sparsely-Gated MoE论文将MoE规模化至语言模型70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/593726API
curl https://kongchang.com/api/v1/knowledge/claims/593726MCP
get_claim(id=593726)