待验证50% 置信事实精确时间
MoE 架构思想最早可追溯至1990年代，在大模型时代由 Google 的 Switch Transformer 重新引爆，并经 Mixtral、GPT-4 等项目验证
1
来源数
50%
置信度
长期有效
时效性
2026/7/11
首次发现
来源
Grok 4.5 实测：更快更便宜的编码黑马，能否取代 Opus 与 GPT？
youtubeForrestKnight2026/7/10
相关事实
已验证MoE架构最早由Jacobs等人在1991年提出，近年来被Google的Switch Transformer和Mixtral等模型重新带入主流80% 相似已验证MoE（混合专家）的核心思想可追溯至1991年Jacobs等人提出的早期混合专家框架，谷歌2021年的Switch Transformer将其推入大规模语言模型时代78% 相似待验证MoE架构最早由Google系统性引入Transformer框架，后被中国头部模型公司发扬光大76% 相似待验证MoE现代形态可追溯至Google 2017年论文，2022年Google的Switch Transformer证明万亿参数稀疏模型可高效训练74% 相似待验证MoE混合专家架构最早可追溯至1991年的学术论文，谷歌于2021年发布Switch Transformer将专家数量扩展至2048个74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/488036API
curl https://kongchang.com/api/v1/knowledge/claims/488036MCP
get_claim(id=488036)