反向前馈神经网络

Question

我一直在网上搜索有关反向前馈神经网络的论文，结果发现有NLP和LP算法可以对它们进行求逆。但是大多数论文对接收一对多的逆映射感兴趣。我想知道这种问题：

说我有一个函数z = x + y，我将教我的FFNN近似这个函数。一旦教过，我想以例如x和z作为输入，并想以y作为输出。因此，它并不完全是一对多映射，但是比仅具有z并想要计算x和y的问题容易吗？有执行这种任务的算法吗？

Answer 1

据我所知，逆网络的方法通常是对抗方法（GAN）或通过优化网络输出来实现（例如，优化| f（x，y'）-z |，其中y'是输出你的问题）。第一种方法更受欢迎。

让我们更多地讨论第一种方法，我们将训练过的网络称为x + y = z网络D。您将必须教一个网络（我们称其为G）来获得x和z并产生y和然后D会检查这是否是正确的答案（即x + y = z），我们将继续进行此操作，直到G学会满足D（我省略了一些细节，您可以通过研究GAN来了解更多信息）。但是，这更像是重新解决我们的问题。

如果您熟悉NN的工作原理，您会知道很难通过确定所需的输出和部分输入来训练网络，因为我们不能使用反向传播。

最后，您可能需要检查这篇论文。技术细节不多，但它恰恰是您提出的建议： https://openreview.net/forum?id=BJxMQbQ3wm