nvidia-smi是如何工作的？

Question

允许nvidia-smi获取硬件级详细信息的内部操作是什么？即使某些进程已在GPU设备上运行并获取进程的利用率详细信息，名称和ID等，该工具也会执行。是否可以在用户级别开发此类工具？ NVML如何相关？

Answer 1

Nvidia-smi是NVML的薄包装。您可以借助Tesla Deployment Kit中包含的SDK来使用NVML进行编码。

可以直接从C库NVML查询nvidia-smi可以完成的所有操作。如果你需要在某种类型的应用程序中查询这些数据，那么使用NVML而不是解析nvidia-smi stdout（过去改变了格式）更好（也可能更容易）。

NVML库还有python和perl个绑定。因此，您可以使用比C更高级别的编程语言。