待验证60% 置信事实精确时间

Mixtral 8x7B拥有约467亿总参数，但每次前向传播仅激活约130亿参数，推理计算量接近13B模型，仍需约90GB显存（FP16）

2

来源数

60%

置信度

长期有效

时效性

2026/9/4

首次发现

来源

自托管推理vs按Token付费：盈亏平衡点在哪里

涉及实体

Mixtral 8x7Bmodel MoEconcept

相关事实

待验证运行700亿参数级别开源模型在 FP16 精度下至少需要约 140GB 显存，即 8 张 H100 并行77% 相似待验证LLaMA-2 70B 总参数约 700 亿均匀分布于 80 层，每层约 8.75 亿参数，FP16 精度下单层约占 1.75GB 显存76% 相似待验证2.4万亿参数模型在FP32下约需9.6TB显存，BF16约需4.8TB，INT8约需2.4TB，INT4约需1.2TB74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/852492

API

curl https://kongchang.com/api/v1/knowledge/claims/852492

MCP

get_claim(id=852492)