待验证50% 置信基准精确时间
Stratum 在 12G 的 5070 显卡、64G 内存的配置下运行 DeepSeek 2.0 BPW 版本,每秒大约输出 6 到 4 个 Token。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/31
首次发现
有效期至:2026/11/14
来源
小显卡跑DeepSeek?GitHub热点项目让CPU和SSD分担显存压力
bilibiliIT咖啡馆2026/10/31
涉及实体
相关事实
待验证在5070 12G显卡配合64G内存的配置下,短聊天场景速度可达93 token/s,128K长上下文为74 token/s73% 相似待验证DeepSeek V1时代每个增量token需要近400KB的KV缓存,V3.2降到48KB72% 相似待验证该1.75位量化的DeepSeek模型可在单张12G显存显卡配合系统内存的消费级主机上本地运行。71% 相似待验证Strata 0.2.4 通过将不常用专家权重放在内存或 SSD 上、只将高频专家常驻显存的方式,利用 MoE 稀疏性在 12GB 显卡上运行 DeepSeek V4.1 Flash。69% 相似待验证开发者 Soto 自写推理引擎,将552B参数的 DeepSeek V4.1 Flash 运行在单张24G RTX 4090、90G内存加NVMe存储的游戏PC上,实测解码约27 token/s,预填充180-320 token/s。69% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1120201API
curl https://kongchang.com/api/v1/knowledge/claims/1120201MCP
get_claim(id=1120201)