待验证50% 置信基准精确时间
该服务器实测在预填充阶段功耗达700-900瓦，解码阶段500-600瓦
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/9/13
首次发现
有效期至：2026/12/12
来源
涉及实体
相关事实
待验证单台DGX H100服务器满负荷功耗达10.2千瓦，推动单机柜功耗从历史均值5-7千瓦攀升至100千瓦以上70% 相似待验证在45nm工艺下，一次32位浮点乘法运算消耗约3.7pJ能量，从片外DRAM读取32位数据消耗约640pJ，片上SRAM访问需要约5pJ66% 相似待验证对于一个典型的700亿参数模型，KV缓存每个词元大约占半兆（0.5MB）内存，生成10万个词元需要携带50GB的缓存65% 相似已验证支持128K上下文的70B参数模型的KV Cache满负荷时可能需要数百GB显存，超过单张H100的80GB显存容量64% 相似待验证以 Llama-3 70B 为例，在 A100 80GB GPU 上处理 32K token 的预填充阶段约需 800-1200ms，而处理 2K token 仅需约 50ms63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/919201API
curl https://kongchang.com/api/v1/knowledge/claims/919201MCP
get_claim(id=919201)