在加载数据之前保留gpu内存张量流

Question

在图构建并在tensorflow中运行之前，有没有办法保留GPU内存？

在创建图形并运行它之前，需要完成缓慢的数据加载。我共享一个GPU群集，因此有时其他人会在完成加载数据之前使用我指定的GPU，该程序将遇到OOM错误。

Answer 1

实例化tf.Session时会保留设备内存。

如果需要及早保留设备内存，则可以从创建会话开始，然后正常进行以构造图形。尽管在“原始”张量流中先创建图形然后实例化一个会话是很常见的，但是仍然允许以不同的方式进行处理，并且在Keras世界中实际上很常见，在该世界中，人们通常会使用

来启动脚本。

import tensorflow as tf
sess = tf.Session()

from keras import backend as K
K.set_session(sess)
...