是否存在使用tensorflow在GPU上耗尽内存的解决方法?

时间:2018-01-26 17:11:56

标签: tensorflow conv-neural-network

我目前正在构建一个用于视频分类的三维卷积网络。主要问题是我太容易耗尽内存。即使我将batch_size设置为1,仍然没有足够的内存来按我想要的方式训练我的CNN。

我正在使用带有4Gb VRAM的GTX 970(张量流可以免费使用3.2Gb)。我期待它仍然训练我的网络,可能使用我的RAM内存作为备份,或者进行部分计算。但直到现在我才能运行它,使CNN更简单,直接影响性能。

我认为我可以在CPU上运行,但速度要慢得多,这也不是一个好的解决方案。

有没有比购买更好的GPU更好的解决方案?

提前致谢。

1 个答案:

答案 0 :(得分:4)

使用gradient checkpointing将有助于内存限制。