对数值进行梯度更新,然后取指数

时间:2019-02-12 03:06:37

标签: tensorflow

目前,我正在阅读这篇论文:https://arxiv.org/abs/1607.05666,其中说:“为了确保参数的正性,我们会对它们的参数进行梯度更新。 记录值,然后取指数”。我不确定如何实现这一点,我的代码如下。

alpha_f = tf.log(tf.get_variable(name='alpha',shape= [input_frequency_size],
                 initializer=tf.random_normal_initializer(mean=1.0,
                       stddev=0.1), dtype=tf.float32))
delta_f = tf.log(tf.get_variable(name='delta',shape=[input_frequency_size],
                 initializer=tf.random_normal_initializer(mean=1.0,
                       stddev=0.1), dtype=tf.float32))
r_f = tf.log(tf.get_variable(name='power',shape=[input_frequency_size],
                 initializer=tf.random_normal_initializer(mean=1.0,
                       stddev=0.1), dtype=tf.float32))
alpha_f = tf.exp(alpha_f)
delta_f = tf.exp(delta_f)
r_f = tf.exp(r_f)

0 个答案:

没有答案