待验证50% 置信基准精确时间
LFM2.5-24B-A2B 在单张 NVIDIA B300 私有云加速器上吞吐超过 21,000 tokens/秒。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/14
首次发现
有效期至：2026/10/28
来源
涉及实体
相关事实
已验证NVIDIA A100单卡拥有80GB HBM2e显存和312 TFLOPS的FP16算力73% 相似已验证NVIDIA A100每个SM拥有65536个32位寄存器73% 相似已验证NVIDIA H20 的 BF16 峰值算力约为 296 TFLOPS，相比 H100 的 989 TFLOPS 大幅削减，但保留了 141GB HBM3 显存与 4.0 TB/s 显存带宽70% 相似待验证NVIDIA A100的显存带宽为2TB/s，加载280GB的FP32模型需要约140ms，仅权重加载就决定了每秒最多生成约7个token70% 相似待验证NVIDIA在Hugging Face发布Qwen3 235B的NVFP4量化模型，将模型从BF16的约470GB显存压缩至约156GB，可运行在8张H100单节点集群上70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1029989API
curl https://kongchang.com/api/v1/knowledge/claims/1029989MCP
get_claim(id=1029989)