Caffe / pyCaffe：设置所有GPU

Question

可以设置Caffe的所有GPU（尤其是pyCaffe）吗？

类似的东西：

caffe train -solver examples/mnist/lenet_solver.prototxt -gpu all

Answer 1

这两种叉子已经支持多GPU了一段时间。

• BVLC / caffe于2015年8月13日获得对多GPU的支持（请参阅commit，issue）。
• 2015年6月19日，NVIDIA / caffe获得了对多GPU的支持（见release note）。

您可能有兴趣知道多GPU和PythonLayers存在一个相当严重的突出问题（请参阅issue，temporary fix）。

Answer 2

AFAIK Caffe目前不支持多gpu培训。计划将来发布。请参阅讨论here 似乎NVIDIA's branch of caffe具有此功能。请参阅问题here。

Answer 3

似乎Caffe现在开始支持C ++接口的多GPU培训。 请参阅CommandLine interface上的文档。

# train on GPUs 0 & 1 (doubling the batch size)
caffe train -solver examples/mnist/lenet_solver.prototxt -gpu 0,1
# train on all GPUs (multiplying batch size by number of devices)
caffe train -solver examples/mnist/lenet_solver.prototxt -gpu all