Unverified50% confidenceFactTime unknown
以Google Switch Transformer、Mixtral为代表的MoE模型成功部署后，MoE架构已成为超大规模语言模型的主流技术选择
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/2/2026
First Seen
Valid until: 9/30/2026
Sources
Related Claims
VerifiedMoE在大语言模型时代被Google的Switch Transformer（2021年）和GLaM重新激活81% similarVerified2017年Google提出的Transformer架构奠定了大语言模型的基础79% similarUnverifiedMoE架构最早由Google系统性引入Transformer框架，后被中国头部模型公司发扬光大77% similarVerifiedGoogle的Switch Transformer和Mistral的Mixtral 8x7B是MoE架构的典型代表75% similarVerifiedMoE（混合专家）的核心思想可追溯至1991年Jacobs等人提出的早期混合专家框架，谷歌2021年的Switch Transformer将其推入大规模语言模型时代75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/55783API
curl https://kongchang.com/api/v1/knowledge/claims/55783MCP
get_claim(id=55783)