SGD具有张量流动的势头

时间:2016-10-28 04:02:55

标签: optimization tensorflow

在caffe中,SGD求解器具有动量参数(link)。在张量流中,我看到tf.train.GradientDescentOptimizer没有明确的动量参数。但是,我可以看到tf.train.MomentumOptimizer优化器。它是否相当于具有动量优化器的caffe SGD?

2 个答案:

答案 0 :(得分:16)

是的。 tf.train.MomentumOptimizer =新元+动量

答案 1 :(得分:0)

tf.keras.optimizers.SGD有一个this.userIdle.resetTimer();参数。也可以通过使用momentum来施加Nesterov动量。