待验证60% 置信事实时间未知
MoE架构的典型代表包括Mixtral 8x7B和DeepSeek-V2
2
来源数
60%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Qwen3.6-27B开源模型评测：27B参数实现旗舰级代码与多模态能力
bilibili百炼ai小助手
涉及实体
相关事实
待验证DeepSeek-V2/V3、Qwen2-MoE 等近期热门模型均采用了 MoE 架构79% 相似已验证DeepSeek-V4.1-Flash采用552B参数的MoE（混合专家）主干架构77% 相似待验证DeepSeek-R1-Distill-Qwen-32B 以 Qwen-2.5-32B 为基座，通过从完整的 671B MoE 架构模型中蒸馏知识而来72% 相似待验证MoE是一种稀疏激活架构，DeepSeek V3拥有256个专家但每次仅激活8个71% 相似待验证Mixtral 8x7B 是首个引发行业广泛关注的开源 MoE 模型，它用 8 个 7B 专家（总参数 46.7B，激活 12.9B）实现了接近 Llama 2 70B 的性能69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/17955API
curl https://kongchang.com/api/v1/knowledge/claims/17955MCP
get_claim(id=17955)