Unverified60% confidenceFactExact time
MoE现代形态可追溯至Google 2017年论文，2022年Google的Switch Transformer证明万亿参数稀疏模型可高效训练
2
Sources
60%
Confidence
Long-term
Relevance
7/11/2026
First Seen
Sources
腾讯混元HY3正式版开源：300B以下最强，1元/百万tokens
bilibiliinfinite灵感港7/6/2026
Related Claims
VerifiedMoE架构由Shazeer等人于2017年在论文《Outrageously Large Neural Networks》中提出，随后由Google在Switch Transformer（2021年）中大规模验证82% similarUnverifiedGoogle于2021年发布的Switch Transformer论文首次证明MoE可将训练效率提升4倍以上81% similarUnverifiedMoE混合专家架构最早可追溯至1991年的学术论文，谷歌于2021年发布Switch Transformer将专家数量扩展至2048个80% similarVerifiedMoE在大语言模型时代被Google的Switch Transformer（2021年）和GLaM重新激活80% similarUnverifiedGoogle于2022年发布的Switch Transformer证明MoE架构在相同计算预算下收敛速度可达稠密模型的4-7倍79% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/486081API
curl https://kongchang.com/api/v1/knowledge/claims/486081MCP
get_claim(id=486081)