TensorFlow：简单的递归神经网络

Question

我用TensorFlow构建了一些神经网络，就像基本的MLP和卷积神经网络一样。现在我想转向循环神经网络。但是，我没有自然语言处理方面的经验。因此，针对RNN的TensorFlow NLP教程对我来说并不容易阅读（也不是很有趣）。

基本上我想从简单的事情开始，而不是LSTM。

如何在TensorFlow中构建一个简单的递归神经网络，如Elman网络？

我只能找到TensorFlow的GRU或LSTM RNN示例，主要用于NLP。有没有人知道一些简单的递归神经网络教程或TensorFlow的例子？

此图显示了一个基本的Elman网络，通常简称为SRN（简单的循环网络）：

Answer 1

一种选择是使用tensorflow/python/ops/rnn_cell.py中的内置RNNCell。

如果您不想这样做，您可以自己制作RNN。 RNN将使用反向传播进行训练。尝试以固定数量的步骤展开网络，例如考虑长度为十的输入序列。然后你可以在python中编写一个循环来为网络的每一步做所有的矩阵乘法。每次您可以获取上一步的输出并将其与该步骤的输入连接。要实现这一目标，代码行不会太多。