如何使用Caffe（pycaffe）在Python上使用多GPU培训？

Question

我最近看到一个new commit被插入到Caffe中，这应该能够通过Python接口/ Python自定义层启用多GPU培训。 我似乎无法使用Python代码中的多GPU来训练网络。 我克隆了更新的存储库并使用USE_NCCL构建了Caffe。 我尝试在Python脚本中使用的命令：

caffe.set_mode_gpu()
caffe.set_solver_count(2)

我得到的错误：

  

F0223 10：27：41.249380 23468 python_layer.hpp：25] PythonLayer没有   支持CLI Multi-GPU，请使用train.py

从命令行运行脚本时，它只使用1个GPU。

Answer 1

我最近也在Python Caffe中尝试过多GPU支持。您可能想要读一读： https://github.com/BVLC/caffe/blob/master/docs/multigpu.md

Caffe仅支持来自命令行的多GPU，并且仅在TRAIN期间，即您必须使用train.py文件（./build/tools/caffe train）并提供您想要用作参数的GPU到这个脚本。 我在上面提到的文件中对此进行了很好的解释。

我也尝试在我的python脚本中使用caffe.set_solver.count（2）。我没有得到任何错误，但我的模型仅在一个GPU上训练。

-Ayushi