双向LSTM中的聚合层

Question

我在tflearn的多对一设置（情绪分析任务）中使用双向LSTM。我想了解在将其发送到softmax层以获得概率输出之前，如何从前向和后向LSTM层中获取聚合表示？例如，在下图中，通常如何实现concat和聚合层？

有没有关于此的文件？

谢谢！

Answer 1

使用tflearn的Bidirectional RNN时，输出会连接起来，如上图所示。因此，每个输出将是输入嵌入大小的两倍。默认设置仅返回最后一个序列输出，因此如果要使用整个序列，则需要设置return_seq=True，然后将序列传递给聚合层，如Merge。