待验证50% 置信事实精确时间
Beam 采用稀疏混合专家（MoE）架构，每个 token 激活 230 亿参数。
1
来源数
50%
置信度
长期有效
时效性
2026/10/17
首次发现
来源
Reflection AI开源501B模型Beam，更重磅的是训练工具链
rss2026/10/17
涉及实体
相关事实
已验证混合专家架构（MoE）通过路由机制仅激活最相关的专家子网络（通常为总参数量的1/8至1/4），Mistral的Mixtral和Google的Gemini 1.5均采用该架构60% 相似待验证蚂蚁集团推出Ling-3.1-flash，总参数约5600亿，采用MoE架构，每个词元仅激活约250亿参数，上下文上限达100万59% 相似已验证Google Gemini 1.5 Pro 支持最高 100 万 token 的上下文窗口并具备原生多模态能力57% 相似待验证Gemini API 实现了 100 万统一输入输出 Token 限制。57% 相似待验证Google的Gemini和Mistral的Mixtral采用了混合专家（MoE）架构，在推理时只激活部分参数57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1053611API
curl https://kongchang.com/api/v1/knowledge/claims/1053611MCP
get_claim(id=1053611)