我目前正在尝试最小化双向RNN(LSTMCell)的ctc损失,用于语音识别。我正在使用MomentumOptimizer执行此操作,因为它在我提到的示例中使用,但我既没有理论上支持我为什么使用它也不知道这是否是用于更新权重的最佳优化器。下面给出了我如何计算损失和优化器的示例代码。
loss = tf.nn.ctc_loss(outputs, targets, seq_len)
optimizer = tf.train.MomentumOptimizer(learning_rate, Momentum).minimize(tf.reduce_mean(loss))
如果有更好的优化器我可以使用,请告诉我。