待验证50% 置信事实精确时间
谷歌在MoE领域有深厚研究积累，从Switch Transformer到GShard再到Gemini系列
1
来源数
50%
置信度
长期有效
时效性
2026/9/3
首次发现
来源
涉及实体
相关事实
已验证以Google Switch Transformer、Mixtral为代表的MoE模型成功部署后，MoE架构已成为超大规模语言模型的主流技术选择74% 相似已验证MoE架构由Shazeer等人于2017年在论文《Outrageously Large Neural Networks》中提出，随后由Google在Switch Transformer（2021年）中大规模验证74% 相似待验证MoE现代形态可追溯至Google 2017年论文，2022年Google的Switch Transformer证明万亿参数稀疏模型可高效训练73% 相似待验证Google Brain于2017年在《Outrageously Large Neural Networks》论文中将MoE规模化应用于Transformer框架73% 相似待验证MoE混合专家架构最早可追溯至1991年的学术论文，谷歌于2021年发布Switch Transformer将专家数量扩展至2048个73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/851721API
curl https://kongchang.com/api/v1/knowledge/claims/851721MCP
get_claim(id=851721)