Caffe的微调和恢复训练有什么区别?

时间:2017-05-11 12:55:12

标签: deep-learning caffe

我一直在训练我的网络进行100,000次迭代。之后我想继续训练。但基本上有两种选择,我不明白它们之间的区别:

首先:

AdminUtils.topicExists(zkClient, topicName)

和第二:

$SOLVER=...
$WEIGHTS=...
$LOGGGING=...

caffe train -solver $SOLVER -weights $WEIGHTS 2>&1 | tee $LOGGING

第一种和第二种方法之间有很大差异吗?我一直在使用第一种称为微调的方法。但我并没有真正理解第一个和第二个之间的区别。

1 个答案:

答案 0 :(得分:0)

微调:通常在训练的不同数据集模型上完成。训练参数可能不同。保存的重量没有任何解决方案。

恢复:可能使用的原因因为程序由于某种原因而停止。 快照包括权重和solverstate,Solverstate有关于训练参数的信息,如LR,max_iter等。当您恢复(快照)时,求解器将恢复先前的状态和持续训练。

如果训练参数相同,则两者都相同。通常,我们会改变学习率,动量和max_iterations进行微调。

我希望这会有所帮助。