循环神经网络作为特征提取

时间:2018-02-11 16:58:13

标签: machine-learning deep-learning recurrent-neural-network

对于卷积网络,可以将卷积部分(卷积,最大池等)视为特征提取,然后将其提供给进行分类的前馈网络(或多或少)。

对于循环网络(RNN,LSTM等)是否也是如此,即循环层会创建数据/特征的表示,然后将其输入到前馈层中?

我从情绪分析的角度来考虑,即"序列到一个"模型。您是否认为拥有一个周期性层+一个前馈层将仅胜过一个复发层网络?

1 个答案:

答案 0 :(得分:0)

循环图层就像前馈神经网络,其中包含反馈回路。他们只是将过去的有用信息传递给现在。

一个不错的解释是:https://kevinzakka.github.io/2017/07/20/rnn/

要向RNN添加更多图层,您可以在https://arxiv.org/pdf/1312.6026.pdf

中找到深度RNN的详细信息

该论文称Deep RNN优于传统RNN