我一直在训练我的网络进行100,000次迭代。之后我想继续训练。但基本上有两种选择,我不明白它们之间的区别:
首先:
AdminUtils.topicExists(zkClient, topicName)
和第二:
$SOLVER=...
$WEIGHTS=...
$LOGGGING=...
caffe train -solver $SOLVER -weights $WEIGHTS 2>&1 | tee $LOGGING
第一种和第二种方法之间有很大差异吗?我一直在使用第一种称为微调的方法。但我并没有真正理解第一个和第二个之间的区别。
答案 0 :(得分:0)
微调:通常在训练的不同数据集模型上完成。训练参数可能不同。保存的重量没有任何解决方案。
恢复:可能使用的原因因为程序由于某种原因而停止。 快照包括权重和solverstate,Solverstate有关于训练参数的信息,如LR,max_iter等。当您恢复(快照)时,求解器将恢复先前的状态和持续训练。
如果训练参数相同,则两者都相同。通常,我们会改变学习率,动量和max_iterations进行微调。
我希望这会有所帮助。