Tensorflow不会将张量/运算分配给所有可用的GPU

时间:2017-07-22 11:50:39

标签: tensorflow multiple-gpu

我有两个GPU,一个6GB GTX Titan和一个11GB GTX 1080Ti。

期望:Tensorflow应自动使用所有GPU'存储器中。

现实:Tensorflow将两个设备映射为gpu:0和gpu:1,但它只使用gpu:0并且从不使用gpu:1,当我增加内存需求时它会运行到OutOfMemory异常而不使用gpu的内存:1

我想要做的是使用两个设备的11 + 6 = 17 GB内存。我想也许tensorflow只支持相同的GPU类型,如果它们是不同的类型,它只会使用其中一种吗?

1 个答案:

答案 0 :(得分:0)

我认为使用两种不同类型的GPU加速是一种不好的做法,因为tensorflow不会将操作放在不同的设备上。我应该在CPU上同步参数,并为多个GPU上的异步训练分配不同的数据。