反向传播和前馈神经网络有什么区别？

Question

反向传播和前馈神经网络有什么区别？

通过谷歌搜索和阅读，我发现在前馈中只有正向，但是在反向传播中，一旦我们需要进行前向传播然后反向传播。我提到this link

1. 流动方向以外的其他差异是什么？重量计算怎么样？结果？
2. 假设我正在实现反向传播，即它包含前向和后向流。反向传播是否足以显示前馈？

Answer 1

• A Feed-Forward Neural Network是一种神经网络架构，其中连接是“前馈”，即不形成周期（如在循环网络中）。

• 当您在输入图层输入内容时，也会使用术语“前馈”，从输入到隐藏，从隐藏到输出层行进。
  这些值是“前进”。

短语“前馈”的这两种用法都与培训本身无关。

• 反向传播是一种训练算法，包括两个步骤：1）前馈值2）计算错误并将其传播回较早的图层。所以准确地说，前向传播是反向传播算法的一部分，但是在反向传播之前。

Answer 2

没有纯粹的反向传播或纯前馈神经网络。

反向传播是训练（调整权重）神经网络的算法。 反向传播的输入是output_vector，target_output_vector， 输出是adjust_weight_vector。

前馈是从输入向量计算输出向量的算法。 前馈输入是input_vector， 输出是output_vector。

当您训练神经网络时，您需要使用这两种算法。

当您使用神经网络（已经过训练）时，您只使用前馈。

神经网络的基本类型是多层感知器，它是前馈反向传播神经网络。

还有更高级的神经网络类型，使用修改后的算法。

也是学习的好资料来源：ftp://ftp.sas.com/pub/neural/FAQ.html 最好理解的原则是对它进行编程（本视频中的教程）https://www.youtube.com/watch?v=KkwX7FkLfug

Answer 3

神经网络可以具有不同的体系结构。他们的神经元之间的联系决定了信息流的方向。根据网络连接的不同，它们分为-前馈和递归（反向传播）。

前馈神经网络

在这些类型的神经网络中，信息仅沿一个方向流动，即从输入层流向输出层。权重一旦确定后，通常就不会更改。一个可以明确地确定权重，也可以使用诸如径向基函数之类的函数来确定权重。此处的节点会在不知道产生的结果是否准确的情况下执行其工作（即，它们不会根据产生的结果进行重新调整）。没有来自上层的通讯。

递归神经网络（反向传播）

信息从输入层传递到输出层以产生结果。然后将结果错误立即传达回先前的层。节点知道他们为答案错误做出了多少贡献。重量被重新调整。神经网络得到改善。它学习。信息是双向的。基本上，这两种算法都已实现，前馈和反向传播。

Answer 4

为简单起见：

前馈是一种体系结构。相反的是递归神经网络。

反向传播（BP）是一种求解方法。 BP既可以解决前馈神经网络又可以解决递归神经网络。