Question

在tensorflow中，RMSPROP优化器可以与 tf.train.RMSPropOptimizer 函数一起使用，如下所示（这与tensorflow 1.4版有关）。

tf.train.RMSPropOptimizer(
    learning_rate, decay=0.9, momentum=0.0, epsilon=1e-10, use_locking=False,
    centered=False, name='RMSProp'
)

但是它没有说明如何初始化每个权重的平方梯度移动平均值。张量流如何初始化它？

Answer 1

在tensorflow github存储库中，它已使用一个初始化器来初始化每个权重的平方梯度的移动平均值。

检查以下Tensorflow版本1.4