知识动态实体播客深度开发者关于

[控场AI]

AI 领域实时知识。所有信息可溯源验证，数据 24 小时内持续更新。

Powered by 240+ first-hand AI sources

知识库

知识动态
热门实体
播客

开发者

CLI
MCP Server
REST API
关于

© 2026 KongchangAI. 控场AI，获取最新、最准的 AI 领域知识

待验证50% 置信事实精确时间

Switch Transformer于2021年提出，将每次路由的专家数量精简为1

1

来源数

50%

置信度

长期有效

时效性

2026/7/24

首次发现

来源

Qwen3.8深度解读：2.4万亿MoE参数凭什么自称第二

相关事实

待验证Switch Transformer将专家数量扩展至2048个，2022年谷歌GLaM模型进一步验证了MoE在多任务泛化上的优势80% 相似待验证Universal Transformer于2018年提出，将同一个Transformer块反复应用于输入序列75% 相似待验证Switch Transformer 由 William Fedus 等人于2021年提出，首次将 MoE 扩展到万亿参数规模71% 相似待验证Gshard（2020）首次实现了万亿参数MoE模型的分布式训练，Switch Transformer（2022）将每个token的路由选择收敛为单一专家70% 相似待验证Transformer于2017年提出后被快速引入时序预测领域70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/604999

API

curl https://kongchang.com/api/v1/knowledge/claims/604999

MCP

get_claim(id=604999)