用于深度学习的最佳GPU + CPU配置

Question

我计划使用深度学习进行大规模的图像分类任务。 如果我们假设我可以为整个系统（GPU，CPU，硬盘，RAM等）花费高达25,000美元，我应该考虑哪个系统？

如果我将多个GPU堆叠在一起，是否应该显着修改深度学习代码（例如Caffe）？

Answer 1

最昂贵的选择是DGX-1（http://www.nvidia.com/object/deep-learning-system.html），170 TFLOPS是HPC的最佳系统。你可以在一个集群中组合六个，理论上达到1 PFLOPS。

Answer 2

这实际上取决于您将使用的软件。如果您使用TensorFlow，则支持多个GPUS。在这种情况下，我会得到一台带有2个带有SLI的Nvidia GTX 1080s的机器（我认为很难获得超过这个的商用机器）。您可以获得类似HP OMEN X的东西，它有2 GPUS，但您需要支付额外费用。更好的是找到一家附近的本地商店，这将建造一台更好的机器，并说你喜欢1000.

如果你正在使用Theano，那么据我所知，他们只支持1个GPU，所以获得更多不是没有意义的。

如果您正在使用sci-kit learn，那么就没有GPU支持，因此您需要使用快速CPU。新的i7配备了4个以上的内核，所以我建议其中一个，但如果预算没有限制，那么你就可以获得超过10个内核的Xeon处理器。

但这一切都归结为预算。谈到这些事情，你可以花掉无限的钱。我们在谈论3000吗？ 5000？ 10k？...对于3000，你应该能够得到2x 1080和一个非常好的i7。这可能是大多数应用程序所需要的。