待验证50% 置信基准精确时间
Spark X 2.5在32000 Token时KV Cache约1.3GB总占用约9GB，128000 Token时KV Cache约4.9GB，100万Token时KV Cache约39GB加模型文件约43GB
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/27
首次发现
有效期至：2026/12/26
来源
涉及实体
相关事实
待验证Spark X 2.5的8-bit版本模型文件约4GB，全精度约8GB79% 相似待验证两台DGX Spark的统一内存合计约256GB75% 相似已验证以LLaMA-3 70B（80层、64头、每头128维）为例，单个token的KV Cache约占2.6MB（FP16精度），32K上下文的KV Cache总量约达83GB71% 相似待验证LLaMA-2 7B 在上下文扩展到 32K token 时 KV Cache 显存膨胀至约 16 GB，接近单张消费级 GPU 的全部显存71% 相似待验证PagedAttention论文以OPT-13B、FP16举例，每个token约需800KB，2048个token约需1.6GB KV Cache69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/954251API
curl https://kongchang.com/api/v1/knowledge/claims/954251MCP
get_claim(id=954251)