以编程方式获取GPU处理器使用

Question

无论如何使用 CUDA 获得 GPU处理器使用率。我想获得群集中连接的每个GPU的处理器使用情况，并将作业分配给处理器使用率最低的GPU。

我使用的操作系统是 Windows 7 64位。所有连接的GPU都具有fermi架构

请帮忙。

Answer 1

NVIDIA Management Library是一个基于C的API，用于监控和管理NVIDIA GPU设备的各种状态。它可以直接访问通过cmdline工具nvidia-smi公开的查询和命令。

https://developer.nvidia.com/nvidia-management-library-nvml