待验证50% 置信决策规则精确时间

Q4是绝大多数用户的最优解，24GB显存搭配Q4_K_M版本是质量与显存占用的甜点组合

1

来源数

50%

置信度

长期有效

时效性

2026/9/6

首次发现

来源

7900XTX本地部署通义千问3实战：53TPS推理速度调优指南

涉及实体

相关事实

待验证Qwythos-9B的Q4量化版本仅需4GB显存即可本地部署运行72% 相似待验证Llama 3 70B量化版（Q4精度）仍需约35GB内存71% 相似已验证Qwen2.5:7B模型Q4量化后文件大小约为4GB71% 相似待验证使用IQ4_XS配合-fa 1 -ctk q8_0 -ctv q8_0对KV缓存进行q8_0量化后，可加载完整32k上下文，常驻内存约16.6GB71% 相似待验证Qwen3 Next Flash的4-bit量化版本（Q4K XL）约111GB70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/866088

API

curl https://kongchang.com/api/v1/knowledge/claims/866088

MCP

get_claim(id=866088)