已过期50% 置信基准精确时间

实测中双模型合计仅占用约12GB显存，推理全程稳定在12GB以下

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/9

首次发现

有效期至：2026/10/7(已过期)

来源

DeepSeek DSpec实测：推测性解码如何将大模型推理提速6倍

bilibili程序员-智能译站2026/7/8

相关事实

待验证8GB显存可运行3B-7B量化模型，但推理速度慢70% 相似待验证以 float16 精度为基准每个参数约占 2 字节，7B 模型约需 14GB 显存/内存，70B 模型约需 140GB70% 相似待验证1750亿参数模型仅模型权重（BF16精度）就需350GB存储，Adam优化器需维护一阶矩和二阶矩两份状态，合计超过1TB69% 相似已验证Stable Diffusion的Checkpoint模型通常为2-7GB，LoRA模型通常只有几十到几百MB69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/362543

API

curl https://kongchang.com/api/v1/knowledge/claims/362543

MCP

get_claim(id=362543)