用于机器学习的外部GPU

Question

我拥有MacBook Pro 15＆＃39; 2014年中期，我正在考虑购买Titan X GPU以加速我的神经网络的训练。 Titan将通过Thunderbolt 2连接为外部GPU。

我可以从这种设置中获得什么样的性能 - 它是否与连接到主板相同？霹雳是否会限制GPU的速度？

Answer 1

在CPU和GPU之间传输数据在机器学习中非常昂贵，并且最终可能成为真正的瓶颈。因此，使用外部显卡会对性能产生重大影响，我绝对不会推荐它。

我已经在一台4岁的Macbook Pro上做了一些ML，它对我正在处理的数据集工作得很好，但是如果你有一些重要的数字运算，你就不能打败一台专用的台式电脑显卡。

如果无法使用台式电脑，您还可以考虑使用提供带GPU的服务器的Amazon EC2等在线服务。

您还需要确保您使用的框架支持GPU加速（并非所有框架都支持）并且性能提升非常重要。

Answer 2

我最近通过Thunderbolt 2将GTX 970连接到我的Macbook Pro 13 2013年末。 与在桌面内部使用PCI-Express插槽相比，GPU基准测试的性能提高了约70％，因为Thunderbolt 2在桌面应用程序中将PCI-Express限制为X4带宽速度与x16相比。

实现这一目标的最便宜的方法是使用Akito 2机箱，移除外壳和后部适合大型GPU，然后您可以将普通ATX电源连接到图形卡和Akito底座电源。您必须为PCI-Express插槽提供75瓦才能使用外部图形卡，因此无法使用Akito设备随附的电源组。

网上有很多关于Akito 2设置的信息，我建议你看一下。