多少个 vCPU 适合基于云的深度学习？

Question

我正在考虑将三大云平台服务之一 - AWS/GCP/AZURE - 用于我团队的机器学习项目。在查看每个服务的计算服务时，我遇到了 vCPU 的概念。例如，GCP 提供了以下解决方案：

• GPU：NVIDIA T4
• GPU 显存：16GB GDDR6
• vCPUS：1~24

我了解拥有更多 GPU 和 GPU 内存的优势。但是，在云平台上运行深度学习算法时，拥有更多 vCPU 是否重要？
我的兴趣是使用深度学习的卷积神经网络、聚类和推荐。

Answer 1

您的问题的答案取决于您想对网络做什么。如果你想做训练，GPU 将是你要走的路。如果推断，CPU 应该更好。当然不管是CPU还是GPU，核心数越多越好。

Answer 2

CPU 可用于数据准备等任务，但如果您的训练在 GPU 上运行，则通常没有那么重要。