待验证85% 置信事实时间未知

Llama 3.1 405B版本需要约640GB显存才能完整加载运行

1

来源数

85%

置信度

中期 (~90 天)

时效性

2026/6/1

首次发现

有效期至：2026/8/30

来源

企业大模型选型指南：Llama3.1、Qwen2.5、DeepSeek深度对比

bilibili云栖智联

涉及实体

Llama 3.1 405Bmodel

相关事实

待验证Llama 3 8B模型（80亿参数）运行约需7GB显存76% 相似待验证llama.cpp的GGUF格式4-bit量化版本使Llama 3.1 70B模型可在配备64GB统一内存的Apple M2 Ultra上运行，推理速度约20-30 tokens/秒69% 相似待验证GLM-5.2的模型权重下载超过1.5TB，即便是1-bit量化的压缩版本也需要大约200GB显存才能运行68% 相似待验证LLaMA-3 70B权重约140GB，推理时每生成一个Token都需要完整遍历一次权重68% 相似待验证T30 Lite配备8GB运行内存与512GB存储空间66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/18065

API

curl https://kongchang.com/api/v1/knowledge/claims/18065

MCP

get_claim(id=18065)