你如何计算nvidia（cuda能力），gpu卡上的负载？

Question

我想知道在将任务发送到卡片时如何显示图形卡能力的百分比。像Gnome的系统监视器一样。

此外，如何获取设备参数以根据其硬件规格计算百分比

nvidia-smi -a如何获得利用率？是否有Cuda API要求卡提供此信息？

Answer 1

Process Hacker执行此操作（仅适用于Windows），但它不是特定于CUDA的。

我知道它使用了一些未记录的函数 - 请查看the plugin's source code以了解具体方法。

Answer 2

您想要做的事情不是在CUDA中完成的。对于特定cuda设备的利用率句柄的百分比输出，您必须像nvidia-smi那样询问GPU驱动程序。

编辑：经过一些谷歌搜索后，我发现open-hardware-monitor它是用C＃编写的，并展示了在Windows系统上使用AMD和nVidia卡的方法。 AMD卡的实现适用于Linux和Windows。

我在代码中看了一下。查看NVAPI.cs文件，了解open-hardware-monitor如何在Windows上使用nvidia dll来获取所有传感器和加载数据。