nvidia-smi内存使用与GPU内存使用之间有何区别？

Question

例如，运行nvidia-smi命令将显示：

Memmory-Usage和GPU Memory Usage有什么区别？

Answer 1

<pre></pre>表示：

Memory-Usage

已用内存是指GPU正在使用的内存量。如果没有人使用总内存，则总可用内存是多少。

used memory/total memory 只是按流程将其分解。

该输出显然正在运行一个进程，并且该进程正在使用10557 MB的GPU 0内存。这与上面报告的10570数字基本相同。是的，两者之间的差异很小，这是由于GPU内存消耗与该进程无关（例如，CUDA本身正在使用）。