待验证50% 置信事实精确时间
在 vast.ai 上一块 H100 SXM 80GB(每小时 2.689 美元,20 vCPU)上运行 vLLM 0.27.1 官方镜像推理 Qwen2.5-0.5B-Instruct(fp16),单请求串行负载下每百万输出 Token 成本约为 1.26 美元。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
已验证NVIDIA H100 SXM5 的 FP16 峰值算力约为 989 TFLOPS,单卡售价超过3万美元,云端租用成本约为每小时2-4美元73% 相似待验证在SIE Cloud上,Qwen3.8-27B(FP8)以每百万token输入输出均为0.72美元提供;GLiNER2 Large为每百万输入token 0.186美元。73% 相似待验证L4 实例每小时成本约 1.0465 美元,约为 1 vCPU 实例的十倍。73% 相似待验证一台256GB的M5 Ultra约1万美元,这笔钱可支撑四年里每月向Cloud或ChatGPT支付200美元使用最先进模型72% 相似待验证一块H100 GPU租用成本约每小时2-4美元,单卡每秒可生成约1000-3000个输出Token71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1014543API
curl https://kongchang.com/api/v1/knowledge/claims/1014543MCP
get_claim(id=1014543)