当您想向当前值添加learning_rate *梯度时使用tensorflow Optimizer.apply_gradients

Question

由于我有一个最大化问题，所以我需要进行梯度上升而不是梯度下降（由于某些原因，不可能通过将成本函数乘以-1将最大化问题转换为最小化问题）。

我想知道我该怎么做。我可以对学习率使用负值吗？

Answer 1

我从未尝试对$('#main_table #sidebar .mini_hid').mouseup(function(){ $('#main_table #sidebar').removeClass('show'); }); $('#main_table #sidebar .mini_hid input[type="text"]').mouseup(function(e){ e.stopPropagation(); }); 使用负学习率，所以不知道它是否有效。但是，使用负梯度的一种方法是使用：

optimizer.apply_gradients()

此外，我想您是通过 negative_gradient = list(map(lambda x: tf.multiply(x, -1), gradient)) 或gradient获得tf.gradients(loss, params)的。在这种情况下，您可以只使用optimizer.compute_gradients(loss, params)。