我正在建立一个只有卷积层的CNN(到目前为止)。
我使用了与ANN相同的算法。因为Conv层没有完全连接并且具有共享权重,所以我不确定如何计算渐变和适当的统计数据。我试图平均& Delta权重并使用平均值来支持。经过一些测试后,我认为这不起作用,它使迭代计算非常缓慢(每秒1次迭代而不是80次)。
如何正确支持Conv图层?
如果任何人有任何关于其他层的反向支持的信息或链接(如Pooling),也会很好。
答案 0 :(得分:0)
有许多SGD(随机梯度下降)算法可以选择反向传播。您可以尝试看看其中的一些 -动量 -AdaGrad -AdaDelta -亚当...