待验证50% 置信基准精确时间
使用MLA的模型如DeepSeek-V4.1-Flash将KV状态压缩至每32k流约2.4 GB(FP8 KV),而更宽的架构每32k流消耗3.0 GB–3.8 GB。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/14
首次发现
有效期至:2027/1/12
来源
涉及实体
相关事实
待验证采用INT4动态量化权重、KVCache走FP8的配置下,权重占21.9GB显存,KV占8.5GB,KVCache总容量850K Token77% 相似待验证LLaMA-2 7B 在上下文扩展到 32K token 时 KV Cache 显存膨胀至约 16 GB,接近单张消费级 GPU 的全部显存76% 相似待验证经过压缩后,DeepSeek V4 Flash模型体积从接近500GB降至80.8GB75% 相似待验证Q3_K_M将每个权重压缩至约3bit,27B模型权重体积可降至约12~13GB74% 相似待验证DeepSeek V1时代每个增量token需要近400KB的KV缓存,V3.2降到48KB74% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1027760API
curl https://kongchang.com/api/v1/knowledge/claims/1027760MCP
get_claim(id=1027760)