在keras和tensorflow中为不同用户共享GPU内存

Question

我们只有一个GPU安装了CUDA驱动程序，每当一个用户运行代码时，整个内存都分配给该用户。其他用户无法使用GPU。请提供摆脱它的方法。

Answer 1

如果您使用的是keras，请在脚本的开头添加：

from keras import backend as K

config = tf.ConfigProto()
config.gpu_options.allow_growth=True
sess = tf.Session(config=config)
K.set_session(sess)

这会阻止tensorflow占用所有内存here。

如果您使用的tensorflow没有keras，请添加：

config = tf.ConfigProto()
config.gpu_options.allow_growth = True
session = tf.Session(config=config, ...)

如图所示here。