待验证50% 置信事实精确时间

GLM 5.2常规版本约400GB，全精度BF16版本高达1.5TB，量化剪枝后仍在约200GB

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/10

首次发现

有效期至：2026/10/8

来源

本地跑大模型是幻觉？开放权重的真实价值与硬件门槛

youtubeTheo - t3․gg2026/7/7

相关事实

待验证以 GGUF Q4 量化为基准，7B 模型约需 4-6GB 显存，13B 约需 8-10GB，70B 需 40GB 以上或多 GPU 并行76% 相似待验证Unsloth为Granite 4.1 3B模型发布了21种GGUF格式量化版本，文件大小从1.2GB到6.34GB不等，总计约51.3GB74% 相似已验证DeepSeek R1 7B版本原始FP16精度约需14GB存储，量化后仅需4.7GB71% 相似待验证LLaMA-2-7B使用FP16精度时每个token的KV Cache约占0.5MB71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/410823

API

curl https://kongchang.com/api/v1/knowledge/claims/410823

MCP

get_claim(id=410823)