待验证60% 置信事实时间未知

许多推理服务的GPU利用率不足30%，通过VGPU技术可将利用率提升至70%以上

1

来源数

60%

置信度

长期有效

时效性

2026/6/1

首次发现

来源

Cube Studio深度解析：腾讯开源云原生AI平台，MLOps全流程实战指南

githubtencentmusic

涉及实体

相关事实

待验证通过VGPU技术，GPU利用率可从平均30%提升至70%以上90% 相似待验证GPU利用率可从低流量时的20%~30%提升至高流量时的70%~80%，因请求量越大越容易聚合为更大计算批次81% 相似待验证单条推理通常只能占用GPU SM利用率的5%～15%，而合理的批次大小可将利用率提升至60%～90%80% 相似待验证若没有充分优化的软件栈，GPU实际利用率往往只能达到理论峰值的30-50%77% 相似待验证流量规模化后GPU批处理利用率可从低流量时的20%~30%提升至高流量时的70%~80%，形成规模经济和规模壁垒76% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/33741

API

curl https://kongchang.com/api/v1/knowledge/claims/33741

MCP

get_claim(id=33741)