待验证50% 置信事实精确时间

H100内存子系统的动态功耗在大模型推理中占比可达整卡功耗的20%～35%

1

来源数

50%

置信度

长期有效

时效性

2026/7/21

首次发现

来源

确定性注意力Transformer：H100实测每token仅0.63焦耳

相关事实

已验证思维链效果在参数量超过100B的模型上尤为显著73% 相似待验证在35B参数模型中GEMM内核往往占据总计算时间的60-80%72% 相似待验证AI推理成本主要构成是A100/H100等高端GPU的折旧与电力，属于资本密集型刚性支出，难以随收入下滑而快速压缩68% 相似待验证上下文控制在100K token以内时模型表现最为稳定，超过100K后幻觉率明显上升68% 相似待验证对于80%的日常编码任务，轻量模型的表现与旗舰模型差距在5%以内，但成本可能相差20-50倍67% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/575667

API

curl https://kongchang.com/api/v1/knowledge/claims/575667

MCP

get_claim(id=575667)