是否可以创建自定义Tensorflow GRU / LSTM单元？

Question

我想修改tf.nn.rnn_cell.GRUCell并向其添加另一个门作为第二输入，以便除了z –更新门和r –重置门之外，还有第三门g-网络的第二个输入的自定义门，类似于Kiddon et al. 2016和Wen et al. 2015。

我设法对 Torch7 GRU电池进行了此操作，它成功地解决了特定的序列建模问题。我怀疑这不是在Tensorflow中实现的简单方法，但也许我错了。有人可以提供有关Tensorflow中自定义单元格的更多详细信息吗？

Answer 1

有可能。如this文章所述，LSTM和GRU单元只是非线性和算术运算的安排。

This repository包含用于pyTorch的自定义LSTM，GRU和其他RNN单元实现。

This repository包含用于TensorFlow的自定义LSTM和GRU实现。