如何在多个GPU之间拆分一个Keras模型

Question

我从事医学成像工作，因此我需要训练难以装入一个GPU的大型3D CNN。我想知道是否有办法在多个GPU之间拆分大型Keras或TensorFlow图，以使每个GPU在训练和推理期间仅运行图的一小部分。使用Keras或TensorFlow可以进行这种分布式培训吗？

我在构建图形时尝试使用with tf.device('\gpu:#')，但是遇到内存溢出。日志似乎表明整个图仍在gpu:0上运行。