B300
NVIDIA基于Blackwell架构的服务器级AI加速卡,相较H100/H800具备更高显存容量、内存带宽和FP8计算吞吐,适用于大规模MoE模型推理场景
时间轴 (近 90 天)
IDC未具体说明34%份额中英伟达哪些产品被计入,也未说明该数据是否包含据报通过走私渠道进入中国的B200和B300等受限芯片。
统一的 Radix Cache 新增了 Agentic-Aware 尾部优化 LRU 淘汰策略,在 DeepSeek-V4-Pro FP4、4 卡 B300 的 agentic 轨迹测试中并发 32 时 p99 ITL 下降 43.9%
B300 是 NVIDIA Blackwell 架构的服务器级加速卡,相较于上一代 H100/H800 其显存容量、内存带宽和 FP8 计算吞吐均有显著提升
针对 B300 调优的内核和调度策略未必能在其他硬件上产生相同幅度的收益
2.2–2.8 倍的提升是在特定的 B300 硬件与特定基准负载下取得的,实际收益会因模型配置、请求分布、序列长度和硬件型号而异
在 B300 基准测试上,Kimi K3 在 vLLM 上的新优化方案相较于 v0.27.1 版本实现了 2.2 到 2.8 倍的吞吐量提升
在 B300 EP8 解码场景下,相较于未调优的默认实现,Chord 加速比达到 2.15 倍
H200 上的基准对比对象是已调优的公开 Humming,而 B300 上的对比对象是未调优的默认实现
全部知识事实 (8)
B300 是 NVIDIA Blackwell 架构的服务器级加速卡,相较于上一代 H100/H800 其显存容量、内存带宽和 FP8 计算吞吐均有显著提升
70%待验证IDC未具体说明34%份额中英伟达哪些产品被计入,也未说明该数据是否包含据报通过走私渠道进入中国的B200和B300等受限芯片。
50%待验证统一的 Radix Cache 新增了 Agentic-Aware 尾部优化 LRU 淘汰策略,在 DeepSeek-V4-Pro FP4、4 卡 B300 的 agentic 轨迹测试中并发 32 时 p99 ITL 下降 43.9%
50%待验证2.2–2.8 倍的提升是在特定的 B300 硬件与特定基准负载下取得的,实际收益会因模型配置、请求分布、序列长度和硬件型号而异
50%待验证在 B300 基准测试上,Kimi K3 在 vLLM 上的新优化方案相较于 v0.27.1 版本实现了 2.2 到 2.8 倍的吞吐量提升
50%待验证针对 B300 调优的内核和调度策略未必能在其他硬件上产生相同幅度的收益
50%待验证在 B300 EP8 解码场景下,相较于未调优的默认实现,Chord 加速比达到 2.15 倍
50%待验证H200 上的基准对比对象是已调优的公开 Humming,而 B300 上的对比对象是未调优的默认实现
50%