在keras中是否有任何高级优化方法，如果没有，那么我如何使用它们？

Question

我知道优化器在keras中的用途我是在谈论随机平均梯度（SAG）或随机方差减少梯度（SVRG）等方法吗？ 有没有人在他的项目之前使用它？怎么样？

Answer 1

我刚刚在一个项目上尝试过RMSprop over SGD。对于我的应用程序，RMSprop比SGD更快地训练网络。 Keras中的切换优化器非常简单，例如从SGD切换到RMSprop

rmsprop = RMSprop(lr=0.0001)

model.compile(loss='binary_crossentropy',
              optimizer=rmsprop,
              #optimizer = sgd,
              metrics=['accuracy'])

正如Sergii在评论中指出的那样，有一个优化器列表供您选择。