待验证85% 置信事实时间未知
Kimi K2在FP16精度下仅模型权重就需要数百GB显存，INT4量化可将显存需求压缩至约四分之一
1
来源数
85%
置信度
长期有效
时效性
2026/6/1
首次发现
来源
Kimi K2官方验证工具K2-Vendor-Verifier：一键检测API供应商模型精度
githubMoonshotAI
涉及实体
相关事实
已验证4-bit量化（如Q4_K_M）通常可将3B模型内存占用从约6GB压缩至约2GB，精度损失低于2-3%75% 相似待验证1750亿参数模型仅模型权重（BF16精度）就需350GB存储，Adam优化器需维护一阶矩和二阶矩两份状态，合计超过1TB73% 相似待验证K-Quant动态量化在极端配置下能把Muse Glimmer显存需求压到3GB级别，模型质量损失仅约0.2%73% 相似已验证FP16精度下，大模型每10亿参数约需2GB显存73% 相似待验证一个原始需要80GB显存的700亿参数模型经4-bit量化（Q4_K_M档）后仅需约40GB内存，推理质量在多数基准测试中损失通常在3%-8%以内73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/29545API
curl https://kongchang.com/api/v1/knowledge/claims/29545MCP
get_claim(id=29545)