待验证50% 置信基准精确时间
700亿参数负载下5090约275瓦、M5 Ultra约300瓦,功耗相近但M5 Ultra快20倍以上
1
来源数
50%
置信度
长期有效
时效性
2026/9/23
首次发现
来源
涉及实体
相关事实
待验证在700亿参数DeepSeek R1蒸馏模型上,因模型溢出RTX 5090的32GB显存,M5 Ultra比5090快20倍以上76% 相似待验证GPU重度负载下M3 Ultra功耗约100W,M5 Ultra飙到400W以上73% 相似待验证英伟达H100 GPU单卡功耗高达700瓦,一个配备5万块H100的超算集群总功耗可达35兆瓦(MW)71% 相似待验证M5 Max的token生成速度大约在10-30 tokens/s范围(取决于模型规模),而NVIDIA H100的HBM3显存带宽高达3.35TB/s,推理速度可达本地设备的数十倍69% 相似待验证Meta的Llama 3.1 70B参数模型以FP16加载约需140GB,405B参数模型以FP16加载约需810GB,INT4量化后约202GB68% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/944996API
curl https://kongchang.com/api/v1/knowledge/claims/944996MCP
get_claim(id=944996)