已验证80% 置信事实时间未知

Google在2017年的Sparsely-Gated MoE论文中系统化了混合专家架构设计

6

来源数

80%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

小米MiMo V2.5 Pro深度实测：代码、3D、SVG生成能力全面评测

bilibiliovo_ojo

涉及实体

Googlecompany MoEconcept

相关事实

待验证谷歌于2017年通过Shazeer等人的Sparsely-Gated MoE论文将MoE规模化至语言模型78% 相似已验证混合专家架构（MoE）由Google Brain于2017年在Transformer框架下规模化应用，核心思想是将模型参数分组为多个专家子网络，每次推理仅激活其中一小部分75% 相似待验证Google的论文和NVIDIA NeMo框架都提供了工业级的上下文偏置实现74% 相似待验证MoE架构由 Google Brain 于 2017 年提出，GPT-4、Mixtral 8x7B 等知名模型均采用该架构73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/20622

API

curl https://kongchang.com/api/v1/knowledge/claims/20622

MCP

get_claim(id=20622)