Caffe的微调和恢复训练有什么区别？

Question

我一直在训练我的网络进行100,000次迭代。之后我想继续训练。但基本上有两种选择，我不明白它们之间的区别：

首先：

AdminUtils.topicExists(zkClient, topicName)

和第二：

$SOLVER=...
$WEIGHTS=...
$LOGGGING=...

caffe train -solver $SOLVER -weights $WEIGHTS 2>&1 | tee $LOGGING

第一种和第二种方法之间有很大差异吗？我一直在使用第一种称为微调的方法。但我并没有真正理解第一个和第二个之间的区别。

Answer 1

微调：通常在训练的不同数据集模型上完成。训练参数可能不同。保存的重量没有任何解决方案。

恢复：可能使用的原因因为程序由于某种原因而停止。 快照包括权重和solverstate，Solverstate有关于训练参数的信息，如LR，max_iter等。当您恢复（快照）时，求解器将恢复先前的状态和持续训练。

如果训练参数相同，则两者都相同。通常，我们会改变学习率，动量和max_iterations进行微调。

我希望这会有所帮助。