B200
NVIDIA推出的旗舰数据中心GPU,基于Blackwell架构,面向大规模AI训练和推理,代表当前最高性能级别
时间轴 (近 90 天)
IDC未具体说明34%份额中英伟达哪些产品被计入,也未说明该数据是否包含据报通过走私渠道进入中国的B200和B300等受限芯片。
GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
搭载VKORE的NPU在预训练吞吐上达到单块B200的约75%。
暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
在 Kimi Linear、8 卡 B200 并发 8 的测试中,cached-prefix 吞吐提升约 10.9 倍
Kimi-K2.7-Code 可以在 6 张 B200 上以打包的 INT4 专家进行训练,而换成 16-bit 副本则需要约 2 TB 显存
Laya 决策模型对短请求的响应最高快 4.1 倍,在 B200 上一次 3 问护栏检查从 11.6 ms 降到 2.8 ms
在 B200 上一次 3 问题护栏检查从 11.6 ms 降至 2.8 ms,Laya 加载时间从约 17 秒缩短到约 9 秒
图像模型在卸载时可保持 INT8 或 FP8 精度,Z-Image 生成耗时在 10 GiB 显存上限的 B200 上从 38.4 秒降至 2.3 秒
gpt-oss 以 load_in_4bit = False 加载时保留 MXFP4 专家,使 gpt-oss-120b 能在单张 B200 上训练
还有 19 条时间轴事件
全部知识事实 (20)
英伟达最新的B200芯片单卡热设计功耗达1000瓦
90%待验证装满B200芯片的机架功率可达120千瓦,是传统服务器机架的十倍以上
80%待验证图像模型在卸载时可保持 INT8 或 FP8 精度,Z-Image 生成耗时在 10 GiB 显存上限的 B200 上从 38.4 秒降至 2.3 秒
70%待验证在B200上,Qwen3.5-9B的LoRA SFT训练每步耗时从0.84秒降到0.77秒
70%待验证NVIDIA的A100、H100以及最新的B200 GPU已经成为AI训练和推理的事实标准
60%待验证IDC未具体说明34%份额中英伟达哪些产品被计入,也未说明该数据是否包含据报通过走私渠道进入中国的B200和B300等受限芯片。
50%待验证GPU Index 的价格数据快照中,H100 最低价为 $1.37/hr(Vast.ai,竞价实例),H200 为 $2.62/hr(CoreWeave,竞价),A100 为 $1.15/hr(Paperspace,三年合约),L40S 为 $0.79/hr(RunPod,社区云),B200 为 $4.26/hr(CoreWeave,竞价)。
50%待验证搭载VKORE的NPU在预训练吞吐上达到单块B200的约75%。
50%待验证暴露设备清单覆盖H100、H200、B200、Blackwell Ultra B300等高端加速卡以及RTX 4090和RTX 5090消费级显卡
50%待验证在 Kimi Linear、8 卡 B200 并发 8 的测试中,cached-prefix 吞吐提升约 10.9 倍
50%待验证Laya 决策模型对短请求的响应最高快 4.1 倍,在 B200 上一次 3 问护栏检查从 11.6 ms 降到 2.8 ms
50%待验证Kimi-K2.7-Code 可以在 6 张 B200 上以打包的 INT4 专家进行训练,而换成 16-bit 副本则需要约 2 TB 显存
50%待验证在 B200 上一次 3 问题护栏检查从 11.6 ms 降至 2.8 ms,Laya 加载时间从约 17 秒缩短到约 9 秒
50%待验证gpt-oss 以 load_in_4bit = False 加载时保留 MXFP4 专家,使 gpt-oss-120b 能在单张 B200 上训练
50%待验证MiniMax-H3 模型的首帧渲染最多可提前约一分钟完成,并在 A100、B200 和 RTX PRO 6000 上降低了 25–29 GiB 的峰值显存占用
50%待验证英伟达从A100到H100再到B200,每一代在相同功耗下提供的AI训练算力约提升1.5到3倍
50%待验证社区横向对比数据:M2 Ultra约20 token/秒,M3 Ultra 512GB为39.8 token/秒,单张B200为119.7 token/秒,8张RTX Pro 6000约204 token/秒,改装48GB显存RTX 4090定制后端367 token/秒,双H200约375 token/秒
50%待验证在4张B200上运行gpt-oss-120b纯预填充测试中,DWDP4在MNT 32K/ISL 32K配置下相比DEP4达到1.92倍加速,饱和状态下实现506K对329K tok/s(1.54倍)吞吐提升
50%待验证A100(2020年)提供312 TFLOPS的FP16算力和2TB/s的HBM2e带宽;H100(2022年)将FP16算力提升至989 TFLOPS并首次引入FP8支持;B200(2024年)将FP8算力推至9 PETAFLOPS级别、HBM3e带宽达8TB/s
50%待验证Blackwell架构的B200/GB200拥有2080亿个晶体管,采用双芯片封装设计,片间互联带宽达10 TB/s
50%