使用不同的GPU继续在Caffe中学习

Question

我想问一下在Caffe中恢复学习的问题。案件是这样的：

1. 在第一次训练时，我利用四个GPU（0,1,2,3）来训练200000次迭代的图像，并保存快照，比方说，每50000次迭代。
2. 然后，我停止了第100000次迭代的学习。
3. 然后我想从第100000个快照模型再次恢复它。

我的问题是，我们是否需要使用相同的GPU（0,1,2,3）继续学习，或者我们可以使用其他任意GPU（假设只使用两个GPU（0和3）仅用于此简历）？我问这个是因为最近我在使用不同数量的GPU时无法恢复学习，但在使用相同的GPU时运行良好