待验证50% 置信事实精确时间

MoE架构后来被Mixtral 8x7B、GPT-4（据推测）、DeepSeek等模型广泛采用

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

Mistral Large 4发布：1万亿参数开源多模态模型Le Chonk

涉及实体

Mixtral 8x7Bmodel GPT-4model DeepSeekmodel

相关事实

已验证MoE架构通过路由器动态选择少数专家参与计算，实现稀疏激活，GPT-4、Mistral、DeepSeek等主流前沿模型均采用类似设计80% 相似已验证GPT-4据传采用了MoE设计，Mixtral 8x7B是开源领域的代表实现79% 相似已验证GPT-4和Mixtral等主流大模型也采用了MoE架构77% 相似待验证MoE架构最早可追溯至1991年学术研究，GPT-4、Mixtral 8x7B、Gemini 1.5均采用类似设计77% 相似已验证DeepSeek-V3、Google的Gemini及GPT-4（据传）均采用类似MoE架构76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/995380

API

curl https://kongchang.com/api/v1/knowledge/claims/995380

MCP

get_claim(id=995380)