待验证50% 置信基准精确时间
Kimi-K2.7-Code 可以在 6 张 B200 上以打包的 INT4 专家进行训练,而换成 16-bit 副本则需要约 2 TB 显存
1
来源数
50%
置信度
长期有效
时效性
2026/10/1
首次发现
来源
涉及实体
相关事实
待验证Kimi K2在FP16精度下仅模型权重就需要数百GB显存,INT4量化可将显存需求压缩至约四分之一70% 相似待验证Kimi K2 系列支持 128K token 上下文65% 相似待验证测试使用Swift版Q5_K_L、基础版Unsloth的Q5_K_XL量化配置,均在128GB内存中运行并支持262K上下文,engrams均为Q8_0并存放于SSD64% 相似待验证Kimi K3在Q4量化下需要约1.5TB内存,可能意味着要买4台Mac串联63% 相似已验证对于拥有32层、32头注意力的典型7B模型,每个token需约0.5MB显存存储KV Cache,生成1000个token则需额外约500MB显存62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/965336API
curl https://kongchang.com/api/v1/knowledge/claims/965336MCP
get_claim(id=965336)