在2个神经网络的组合中使用反向传播进行权重更新

Question

每个神经网络都通过反向传播来更新其权重。 假设一个神经网络模型堆叠在另一个神经网络模型上，那么反向传播如何在这种体系结构中用于权重更新。在单个神经网络模型中，权重更新有什么不同？

Answer 1

CNN，GAN或任何其他神经网络拓扑仍然由基本单元（网络的各层）组成。 “ CNN”是指一类广泛的拓扑； “ GNN”是另一种广泛的类别。

向后传播的方式与往常相同：将每个图层的权重更改传播到上一层，然后除以该权重的渐变。这是拓扑中相邻（直接连接）的层之间的操作。这两层是在我们已聚类为“ CNN”的子图中还是在两个不同子图中的相邻层都没有关系，这是直接的层到层更新。