CNN-LSTM结构:后填充还是前填充?

时间:2020-04-30 05:00:33

标签: tensorflow keras lstm padding cnn

结构如下:CNN-> LSTM->密集
输入是可变长度的(例如语音识别CTC),需要填充。
前填充和后填充之间的选择会影响性能吗?
我读了Effects of padding on LSTMs and CNNs
只要输入层是CNN,pre vs post不会影响性能吗?

1 个答案:

答案 0 :(得分:0)

如论文所示

find source in initial question

因此,如果将后填充应用于LSTM,显然性能会变差。

由于LSTM根据一系列数据进行学习,并试图找到与过去的关系,从而增加了白噪声,即LSTM预先填充,在输入中将阻止他们建立这种关系。

如果将预填充添加到CNN,我相信LSTM的性能将保持不变,因为CNN的输出不会改变。

根据我的理解,CNN后填充和LSTM预填充是同一回事,并且可能会导致性能下降。

通常来说,您可以通过阅读论文获得可靠的信息。在论坛上,您将了解其他人的意见。