具有硬件约束的机器学习模型训练

Question

只是想知道是否有任何方法可以在大型训练数据上训练机器学习模型，而硬件不能支持整个训练数据。

Answer 1

这是增量学习存在的关键原因之一，以及随机梯度下降等技术（及其小批量推广）;通常，必须适合您的硬件（例如GPU）的是模型本身，具有足够的容量来解析一小批您的训练数据。特别是所有现代神经网络都以这种方式进行训练（数据通过模型分批发送，您不必将整个数据集放入内存中）。