待验证90% 置信事实时间未知

MoE架构的典型代表包括Mixtral 8x7B和DeepSeek-V2

1

来源数

90%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Qwen3.6-27B开源模型评测：27B参数实现旗舰级代码与多模态能力

bilibili百炼ai小助手

涉及实体

Mixtral 8x7Bmodel DeepSeek-V2model MoEconcept

相关事实

待验证MoE是一种稀疏激活架构，DeepSeek V3拥有256个专家但每次仅激活8个71% 相似待验证MoE架构的稀疏激活特性适合定制化芯片针对性优化片上内存容量与带宽分配、专家路由调度及稀疏矩阵乘法单元63% 相似待验证DeepSeek-V4 Flash采用混合注意力、mHC混合机制以及哈希路由的MoE等架构设计63% 相似待验证本次实测在8卡H20-141G环境中通过GPUStack部署DeepSeek-V4-Flash（DSpark版本）63% 相似待验证Meta的LLaMA 3系列最大规模为405B，DeepSeek-V3约为671B（混合专家架构）62% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/17955

API

curl https://kongchang.com/api/v1/knowledge/claims/17955

MCP

get_claim(id=17955)