待验证50% 置信基准精确时间
在DeepSeek V4 Pro工作负载上,以每用户160 token/秒的交互目标,Vera Rubin-NVL72的每兆瓦AI工厂吞吐量比GB300-NVL72高出最多30倍。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/14
首次发现
有效期至:2026/10/28
来源
涉及实体
相关事实
待验证使用NVIDIA B300芯片在1兆瓦数据中心可实现约45万token/s总吞吐量,若每用户340 token/s则约1324个并发活跃用户74% 相似待验证DeepSeek V3的decode单元采用144卡EP,通过大batch均摊权重load开销并腾出显存提升batch size73% 相似待验证DeepSeek V1时代每个增量token需要近400KB的KV缓存,V3.2降到48KB73% 相似待验证DeepSeek-V3 总参数达 685B,以 Q4 量化后体积仍超过 400GB72% 相似待验证测试者用双4090(48GB显存)工作站运行20.7B稠密模型,每秒生成27.6个Token,仅比矮星略快,但参数量小10倍以上71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1030798API
curl https://kongchang.com/api/v1/knowledge/claims/1030798MCP
get_claim(id=1030798)