Unverified50% confidenceBenchmarkExact time
使用NVIDIA B300芯片在1兆瓦数据中心可实现约45万token/s总吞吐量，若每用户340 token/s则约1324个并发活跃用户
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
7/21/2026
First Seen
Valid until: 10/19/2026
Sources
Related Claims
UnverifiedNVIDIA A100的显存带宽为2TB/s，加载280GB的FP32模型需要约140ms，仅权重加载就决定了每秒最多生成约7个token72% similarUnverified千兆网口(1GbE)实际读写上限约110MB/s，若NAS用于视频剪辑素材调用或多人并发，应选2.5GbE(约280MB/s)或万兆(10GbE)机型，否则网络成为瓶颈71% similarUnverifiedNVIDIA H100的HBM显存带宽约为3.35 TB/s，在自回归生成任务中利用率往往不足10%70% similarUnverified监控码流计算：单路1080P约4Mbps，4K约16Mbps，8路4K同时写入约需16MB/s，千兆网口(约110MB/s)完全够用，无需为监控存储单独升级2.5G网口70% similarUnverified千兆网口（1GbE）实际传输上限约110MB/s，机械硬盘足够跑满；若做4K视频剪辑或多人同时读写大文件，需选2.5GbE甚至万兆网口并搭配SSD缓存69% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/580876API
curl https://kongchang.com/api/v1/knowledge/claims/580876MCP
get_claim(id=580876)