Question

即使重新启动计算机后，python3仍使用了超过95％的GPU内存。请注意，即使没有正在运行的训练脚本，内存消耗也会保持不变，而且我从未在系统环境中使用keras/tensorflow，仅在venv或docker容器中使用过。

已更新：最后一个活动是使用以下配置执行NN测试脚本：

tensorflow==1.14.0 Keras==2.0.3

tf.autograph.set_verbosity(1)
session_conf = tf.ConfigProto(intra_op_parallelism_threads=8, inter_op_parallelism_threads=8)
tf.set_random_seed(1)
session_conf.gpu_options.allow_growth = True
sess = tf.Session(graph=tf.get_default_graph(), config=session_conf)
K.set_session(sess)

$ nvidia-smi

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 440.26       Driver Version: 440.26       CUDA Version: 10.2     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|===============================+======================+======================|
|   0  GeForce GTX 105...  Off  | 00000000:01:00.0 Off |                  N/A |
| N/A   53C    P3    N/A /  N/A |   3981MiB /  4042MiB |      1%      Default |
+-------------------------------+----------------------+----------------------+

+-----------------------------------------------------------------------------+
| Processes:                                                       GPU Memory |
|  GPU       PID   Type   Process name                             Usage      |
|=============================================================================|
|    0      4105      G   /usr/lib/xorg/Xorg                           145MiB |
|    0      4762      C   /usr/bin/python3                            3631MiB |
|    0      4764      G   /usr/bin/gnome-shell                          88MiB |
|    0      5344      G   ...quest-channel-token=8947774662807822104    61MiB |
|    0      6470      G   ...Charm-P/ch-0/191.6605.12/jre64/bin/java     5MiB |
|    0      7200      C   python                                        45MiB |
+-----------------------------------------------------------------------------+

以恢复模式重新启动，我曾尝试运行nvidia-smi -r，但不能解决问题。

Answer 1

默认情况下，Tf在进程的生命周期内分配GPU内存，而不是在会话对象的生命周期内分配GPU内存（因此内存可以比该对象停留更长的时间）。这就是为什么在停止程序后内存会持续存在的原因。在很多情况下，使用gpu_options.allow_growth = True参数是很灵活的，但是它会分配所需的GPU内存，这是运行时进程所需的。

为防止tf.Session使用所有GPU内存，您可以通过更改gpu_options.allow_growth = True为定义的内存比例（为50％使用，请为整个进程分配固定数量的内存）因为您的程序似乎能够在运行时使用大量内存），例如：

session_conf.gpu_options.per_process_gpu_memory_fraction = 0.5

这应该阻止您达到上限并限制在〜2GB（因为看起来您有4GB的GPU）。

CUDA错误：内存不足-Python解释器使用了所有GPU内存

1 个答案: