待验证50% 置信基准精确时间
在同一基准测试条件下，8卡AMD MI355X的每GPU吞吐量比HGX B300的6,083 tok/s/GPU高出24.4%。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/17
首次发现
有效期至：2026/10/31
来源
涉及实体
相关事实
待验证在SemiAnalysis的AgentX基准测试中，8卡AMD MI355X在50 tok/s/user的交互延迟下，于Kimi K3模型服务中实现了每GPU 7,567 tok/s的吞吐量。73% 相似待验证在4张B200上运行gpt-oss-120b纯预填充测试中，DWDP4在MNT 32K/ISL 32K配置下相比DEP4达到1.92倍加速，饱和状态下实现506K对329K tok/s（1.54倍）吞吐提升73% 相似待验证NVIDIA A100的理论FP16峰值算力约为312 TFLOPS，但朴素LLM推理场景下GPU利用率常不足30%70% 相似待验证最先进的HBM3e内存带宽约4.8TB/s，推理过程中GPU算力利用率往往只有30%-60%69% 相似待验证以FP16半精度计算，RTX 4090理论算力约为330 TFLOPS，M2 Ultra的GPU算力约为27.2 TFLOPS68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1050930API
curl https://kongchang.com/api/v1/knowledge/claims/1050930MCP
get_claim(id=1050930)