已验证80% 置信事实时间未知

Qwen2.5:7B模型Q4量化后文件大小约为4GB

8

来源数

80%

置信度

长期有效

时效性

2026/5/31

首次发现

来源

Ollama本地部署大模型教程：安装配置到API调用全流程

bilibili陶欤冰

涉及实体

相关事实

待验证Qwen3系列编程模型约20GB加载，推理时可膨胀到35-40GB83% 相似待验证3B～4B级别模型如Qwen2.5 3B或Llama 3.2 3B在Q4量化下仅需2～2.5GB显存83% 相似待验证在16GB内存硬件条件下只能容纳5GB以内的模型，因此该开发者使用了体积约4.8GB的Qwen 2.5 7B 4bit量化模型，配8K上下文窗口82% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/12571

API

curl https://kongchang.com/api/v1/knowledge/claims/12571

MCP

get_claim(id=12571)