Tensorflow GAN中的三个损失函数

时间:2017-12-13 12:55:53

标签: python python-3.x machine-learning tensorflow neural-network

我一直在关注O'Reilly的指南,当涉及到他们的训练和失去功能时,我感到非常困惑。

d_loss_real = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(Dx,tf.ones_like(Dx)))
d_loss_fake =tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(Dg,tf.zeros_like(Dg)))

g_loss = tf.reduce_mean(tf.nn.sigmoid_cross_entropy_with_logits(Dg, tf.ones_like(Dg)))

这感觉就像d_loss_real和d_loss_fake应该被添加到一个变量中,这应该是最小化的:

d_loss = d_loss_real + d_loss_fake

d_trainer = tf.train.AdamOptimizer(0.0003).minimize(d_loss, var_list=d_vars)

然而,指南指定了三个训练函数而不是两个,一个用于d_loss_real,d_loss_fake和g_loss。

# Train the discriminator
d_trainer_fake = tf.train.AdamOptimizer(0.0003).minimize(d_loss_fake, 
var_list=d_vars)
d_trainer_real = tf.train.AdamOptimizer(0.0003).minimize(d_loss_real, 
var_list=d_vars)
# Train the generator
g_trainer = tf.train.AdamOptimizer(0.0001).minimize(g_loss, var_list=g_vars)

我是否认为这是错的,或者我错过了什么?

1 个答案:

答案 0 :(得分:0)

您只需要两个优化器,一个用于生成器,一个用于鉴别器网络:

1)discriminator_trainer = tf.train.AdamOptimizer(0.0003).minimize(d_loss, var_list = d_vars)

2)generator_trainer = tf.train.GradientDescentOptimizer(0.0003).minimize(g_loss, var_list = g_vars)

-在发电机网络中使用梯度下降优化器以获得更好的结果。