DeepLearning4J的具体数学实现

Question

我正在尝试用随机梯度下降来确定用于训练用于在deeplearning4j中进行分类的前馈网络的精确数学。我试过踩过代码，但在森林里迷路了。

这是否记录在任何地方？

Answer 1

您可以在各层实现的preOutput和backpropGradient方法中找到它：

Here's the basic implementation used in DenseLayers

And the more complex convolution one used in Convolutions

但是，使用CuDNN或MKL时，实现可能会被换出。