如何在seq2seq模型中批处理序列以馈入解码器?

时间:2018-11-27 16:56:07

标签: seq2seq

当序列长度可变时,在使用批处理将数据提供给解码器时遇到问题。我可以使用包装来处理编码器。在以下情况下会出现问题-

encoder([[4 5 6] [4 5 6] [4 5 6]])---------decoder([[7 7 7]])
encoder([[1 2 3] [1 2 3]])-----------------decoder([[3 3 3] [3 3 3] [3 3 3]])
encoder([[9 9 9]])-------------------------decoder([[2 2 2]])

现在我可以使用packing(先填充然后打包)批处理编码器端,但是由于顺序不减,所以我不能批处理解码器端。有可能以任何有效的方式做到吗?

0 个答案:

没有答案