在训练深度学习模型时,何时应该使用预训练的权重?

时间:2017-08-06 00:21:51

标签: machine-learning deep-learning conv-neural-network image-recognition object-detection

我对训练一系列图像和物体检测模型很感兴趣,我想知道何时使用像VGG16这样的网络预训练权重的一般规则是什么。

例如,很明显,微调预先训练的VGG16 imagenet模型权重对于您正在寻找一个子集来说是有帮助的。猫和狗。

然而,如果您正在训练一个包含300个类的图像分类器,并且其中只有一些是预训练模型中的类的子集,那么使用这些预训练权重是否是一个好主意似乎不太清楚。

围绕这个的直觉是什么?

1 个答案:

答案 0 :(得分:1)

较低层学习的功能不一定特定于您的应用程序/数据集:角落,边缘,简单形状等。因此,如果您的数据严格地是原始网络可以预测的类别的子集,则无关紧要。< / p>

根据您可用于培训的数据量以及数据与预训练网络中使用的数据的相似程度,您可以决定冻结较低层并仅学习较高层,或者只是训练分类器您的预训练网络的顶部。

检查here以获取更详细的答案