可以同时开始多次训练吗？

Question

我刚刚开始对DNN进行编码，我想知道是否可以同时进行多次培训？喜欢带有不同的参数。还是会减慢训练速度？

这里是上下文：为了发现图片中的异常，我使用了Ganomaly架构，因此我必须进行更改并尝试一些不同的组合。我使用Anaconda，在培训期间，它显示约20％的内存正在使用。我的设置是：Nvidia Quadro M6000，Cuda 9.0，cudNN 7.0。

Answer 1

  

是否可以同时开始多次训练？

是的，可以启动多个实例，但是肯定会影响您的训练速度。

一种可能的解决方案是将GridSearchCV集成到sklearn和Keras模型中。为此，Keras还提供了一个名为keras.wrappers.scikit_learn的包装器，您可以将GridSearchCV中的作业数设置为-1，以便并行运行它们。有关更多详细信息，请参见here。

这是超参数优化解决方案的列表。

• HyperKeras
• Kopt
• Talos

有关更多详细信息，请参见here。

另一个可能的选择是Google超调，它当然需要在云上运行。有关更多详细信息，请参见here。