待验证50% 置信基准精确时间

Flux GGUF Q4_K_S 量化模型体积为6.4GB，运行时约1127MB被卸载到CPU，每步耗时11-22秒

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/11

首次发现

有效期至：2026/12/10

来源

8GB显卡跑本地AI：优化设置比硬件更重要

涉及实体

Fluxmodel GGUF Q4_K_Stechnology

相关事实

已验证以 GGUF Q4 量化为基准，7B 模型约需 4-6GB 显存，13B 约需 8-10GB，70B 需 40GB 以上或多 GPU 并行77% 相似待验证Q4_K_M量化文件大小17.77GB，pp2048速度96.8 tok/s，tg128速度11.4 tok/s73% 相似待验证Qwen3-0.6B 经 INT4 量化后模型文件仅约 400MB，保留约 95% 基准能力，普通笔记本 CPU 即可实现每秒 10-30 token 生成速度73% 相似待验证Flux 2的9B参数模型在FP16精度下模型权重约占18GB显存，通常需要24GB以上的GPU显存73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/903736

API

curl https://kongchang.com/api/v1/knowledge/claims/903736

MCP

get_claim(id=903736)