待验证50% 置信事实精确时间

Meta的Llama 3.1 70B参数模型以FP16加载约需140GB，405B参数模型以FP16加载约需810GB，INT4量化后约202GB

1

来源数

50%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

苹果M7 Ultra芯片曝光：1.5TB统一内存能否重塑本地AI推理格局

相关事实

已验证一个70B参数的FP16模型大约需要140GB显存，INT8量化后约需70GB，INT4量化后约需35-40GB83% 相似待验证Meta Llama 3的405B参数版本以BF16精度加载需约810GB内存，量化至INT4精度需约200GB78% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/507766

API

curl https://kongchang.com/api/v1/knowledge/claims/507766

MCP

get_claim(id=507766)