待验证50% 置信基准精确时间

使用NVIDIA B300芯片在1兆瓦数据中心可实现约45万token/s总吞吐量，若每用户340 token/s则约1324个并发活跃用户

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/21

首次发现

有效期至：2026/10/19

来源

GPT-5.6推理提速18倍：OpenAI的算力豪赌与商业逻辑

相关事实

待验证NVIDIA A100的显存带宽为2TB/s，加载280GB的FP32模型需要约140ms，仅权重加载就决定了每秒最多生成约7个token72% 相似待验证NVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/580876

API

curl https://kongchang.com/api/v1/knowledge/claims/580876

MCP

get_claim(id=580876)