待验证50% 置信基准精确时间

在实验配置下Ollama将840M识别为约16GB显存（16193 MiB），加载时约14.6 GiB可供Vulkan设备使用

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/8/16

首次发现

有效期至：2026/11/14

来源

AMD核显跑26B大模型实测：统一内存架构下全GPU推理与mmap优化指南

相关事实

已验证一个70B参数的FP16模型大约需要140GB显存，INT8量化后约需70GB，INT4量化后约需35-40GB71% 相似已验证Llama-3 70B模型在FP16精度下仅权重就需要约140GB显存70% 相似待验证Gemma 4 31B 经量化后模型大小约为 20GB，实测 GPU 显存占用约 20.5GB，GPU 利用率约 91%69% 相似待验证采用LoRA等参数高效微调技术，需要16GB以上显存69% 相似待验证Llama-3（8B）的全量微调约需80GB以上显存，Llama-3（70B）则需要超过400GB68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/756813

API

curl https://kongchang.com/api/v1/knowledge/claims/756813

MCP

get_claim(id=756813)