CNN - 卷积层的反向传播

时间:2016-09-04 20:50:50

标签: c++ c++11 neural-network artificial-intelligence backpropagation

我正在建立一个只有卷积层的CNN(到目前为止)。

我使用了与ANN相同的算法。因为Conv层没有完全连接并且具有共享权重,所以我不确定如何计算渐变和适当的统计数据。我试图平均& Delta权重并使用平均值来支持。经过一些测试后,我认为这不起作用,它使迭代计算非常缓慢(每秒1次迭代而不是80次)。

如何正确支持Conv图层?

如果任何人有任何关于其他层的反向支持的信息或链接(如Pooling),也会很好。

1 个答案:

答案 0 :(得分:0)

有许多SGD(随机梯度下降)算法可以选择反向传播。您可以尝试看看其中的一些 -动量 -AdaGrad -AdaDelta -亚当...