Unverified50% confidenceFactExact time
相较于用GPU执行AI推理,NPU的功耗通常只有前者的1/5到1/10
1
Sources
50%
Confidence
Long-term
Relevance
7/6/2026
First Seen
Sources
AI本地Agent实测:自动录制世界杯高光,告别熬夜看球
bilibili吟惋兮7/4/2026
Related Claims
Unverified在完整的AI应用系统中,GPU推理通常只占总计算量的30%-40%,其余60%-70%的计算负载由CPU承担77% similarUnverifiedAI推理的边际成本不趋于零,因为每次推理需在GPU显存中加载完整模型权重,且每次生成的输出唯一无法缓存复用76% similarUnverified大模型推理时实际GPU利用率往往不足10%73% similarUnverifiednvidia-smi报告的GPU利用率本质上只统计采样时间窗口内GPU上至少有一个内核在执行的时间占比,而非计算资源的实际占用率71% similarUnverified自回归解码阶段GPU算力利用率往往不足10%,属于内存密集型操作70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/113486API
curl https://kongchang.com/api/v1/knowledge/claims/113486MCP
get_claim(id=113486)