我有两个GPU,一个6GB GTX Titan和一个11GB GTX 1080Ti。
期望:Tensorflow应自动使用所有GPU'存储器中。
现实:Tensorflow将两个设备映射为gpu:0和gpu:1,但它只使用gpu:0并且从不使用gpu:1,当我增加内存需求时它会运行到OutOfMemory异常而不使用gpu的内存:1
我想要做的是使用两个设备的11 + 6 = 17 GB内存。我想也许tensorflow只支持相同的GPU类型,如果它们是不同的类型,它只会使用其中一种吗?
答案 0 :(得分:0)
我认为使用两种不同类型的GPU加速是一种不好的做法,因为tensorflow不会将操作放在不同的设备上。我应该在CPU上同步参数,并为多个GPU上的异步训练分配不同的数据。