待验证50% 置信事实精确时间
GPU利用率（DCGM_FI_DEV_GPU_UTIL）衡量的是采样周期内至少有一个kernel在GPU上运行的时间占比
1
来源数
50%
置信度
长期有效
时效性
2026/9/3
首次发现
来源
涉及实体
相关事实
待验证在llama.cpp中，-ngl（number of GPU layers）参数可控制多少层放在GPU上，用于平衡速度和模型规模79% 相似待验证GPU显存中的KV Cache占用与输入Token数量线性相关75% 相似待验证在大规模 GPU 集群中，单个关键内核 5% 的性能改善在数千张 GPU 卡上运行数周的训练任务中可以节省大量计算时间和电力成本74% 相似待验证只要GPU上有任何一个计算内核在运行，即使只占用极小部分计算单元，nvidia-smi的GPU利用率指标依然会显示100%73% 相似待验证GPU加速对批量处理效率影响巨大：Topaz、Luminar等工具在NVIDIA RTX显卡（支持CUDA/Tensor Core）上处理速度比纯CPU快5-10倍，且8GB以上显存才能流畅处理全画幅RAW的4倍放大。若批量处理数百张照片，显存不足会导致降级到CPU运算或直接崩溃72% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/849967API
curl https://kongchang.com/api/v1/knowledge/claims/849967MCP
get_claim(id=849967)