深度学习硬件

Question

对于正在启动的深度学习项目的硬件，我有几个问题，我打算将pyTorch用于神经网络。

我正在考虑在z390上购买第8代CPU（我将等待一个月，看看第9代CPU可用后价格是否会下降），因此我仍然可以获得更便宜的CPU，以后可以升级。

问题1）CPU内核是否会有益？使用最新的Intel芯片是否值得额外的内核？如果CPU上的内核有帮助，我应该选择AMD吗？

我也正在考虑获得1080ti，然后，一旦我更加熟练地添加了两个2080ti，我会花更多的钱，但是很难找到适合4个的板子。

问题2）是否混合GPU的效果并行处理，我现在应该买2080ti，然后再购买2个。这个问题的b部分对车道速度很重要，如果我使用一块以上的板子，如果不使用PCIe插槽，那我的板子速度不会降低。

问题3）更多RAM？ 32GB似乎足够。因此2x16gb会粘在一块板上，该板上可以有4个插槽，最大支持64gb。

Answer 1

运行多GPU时的问题还在于可用PCIe通道的数量。如果您最多可以使用4个GPU，那么我会选择64个PCIe通道的AMD Threadrippers。

对于一般的机器学习而言，内核和线程数非常重要，因此根据当然的预算，TR仍然是一个不错的选择。

很少有人提到在每个GPU上运行一个实例可能会更有趣，如果这样做的话，混淆GPU就不成问题了。

32GB的RAM似乎不错，如果您的CPU实际上不支持四通道，则无需再使用4支内存。