Unverified50% confidenceFactExact time
MoE混合专家架构最早可追溯至1991年的学术论文，谷歌于2021年发布Switch Transformer将专家数量扩展至2048个
1
Sources
50%
Confidence
Long-term
Relevance
7/25/2026
First Seen
Sources
Related Claims
VerifiedMoE（混合专家）的核心思想可追溯至1991年Jacobs等人提出的早期混合专家框架，谷歌2021年的Switch Transformer将其推入大规模语言模型时代81% similarUnverifiedMoE现代形态可追溯至Google 2017年论文，2022年Google的Switch Transformer证明万亿参数稀疏模型可高效训练80% similarVerifiedGoogle在Switch Transformer中大规模验证了Mixture of Experts（MOE）架构78% similarVerifiedMoE架构由Shazeer等人于2017年在论文《Outrageously Large Neural Networks》中提出，随后由Google在Switch Transformer（2021年）中大规模验证78% similarVerifiedMoE架构最早由Jacobs等人在1991年提出，近年来被Google的Switch Transformer和Mixtral等模型重新带入主流76% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/615326API
curl https://kongchang.com/api/v1/knowledge/claims/615326MCP
get_claim(id=615326)