待验证50% 置信基准精确时间
ModelFit 对于 Kimi K3（unsloth 仓库），UD-Q1_0 量化实测文件大小为 466.4 GB，8K 上下文下所需 VRAM/RAM 为 561.1 GB；UD-Q4_K_XL 实测文件大小为 1.51 TB，所需约 1.6 TB；F16 约 3 TB。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至：2026/10/31
来源
涉及实体
相关事实
待验证对于 Kimi K3，五个热门页面给出的显存需求答案分别为 594 GB、1.51 TB、1.68 TB 和“跑不了”，且 Q4 量化需求有“约 800 GB”和 1.2 TB 两种说法。78% 相似待验证将8比特的Ngram表转成4比特可省下约100GB，使模型从约475GB降到约385GB75% 相似待验证对于使用GQA的70B模型（n_layers=80, n_kv_heads=8, head_dim=128, FP16缓存），单token的KV Cache大小约为320 KB。75% 相似待验证Kimi K2在FP16精度下仅模型权重就需要数百GB显存，INT4量化可将显存需求压缩至约四分之一75% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1054742API
curl https://kongchang.com/api/v1/knowledge/claims/1054742MCP
get_claim(id=1054742)