产品Nsight Systems
Nsight Systems
NVIDIA 提供的系统级性能分析工具，以时间线视图展示CPU与GPU活动，用于定位kernel启动开销、同步等待和CPU调度瓶颈。
时间轴 (近 90 天)
10月17日
Nsight Systems 分析显示，达到 7.3 tok/s 时每个 token 约 137ms，其中 GPU 忙碌约 92ms、空闲约 54ms，启动间间隙仅约 13ms，因此 CUDA 图只能优化这 13ms。
待验证50%
9月11日
通过 Nsight Systems 与 Nsight Compute 配合可以定位性能瓶颈是内存受限还是计算受限，从而选择优化方向
待验证50%
9月3日
GPU硬件性能计数器数量有限，dcgm-exporter占用后Nsight Systems、Nsight Compute等工具无法同时使用同一组计数器
待验证50%
全部知识事实 (4)
待验证
NCCL Inspector与nsys、Nsight Systems等传统profiling工具的核心差异在于实时性和持续监控能力，支持7×24小时运行
85%待验证Nsight Systems 分析显示，达到 7.3 tok/s 时每个 token 约 137ms，其中 GPU 忙碌约 92ms、空闲约 54ms，启动间间隙仅约 13ms，因此 CUDA 图只能优化这 13ms。
50%待验证通过 Nsight Systems 与 Nsight Compute 配合可以定位性能瓶颈是内存受限还是计算受限，从而选择优化方向
50%待验证GPU硬件性能计数器数量有限，dcgm-exporter占用后Nsight Systems、Nsight Compute等工具无法同时使用同一组计数器
50%