如何删除标准GRU单元的偏置项？没有偏差项的LSTM / GRU

Question

有没有人知道如何在没有偏差项的情况下在张量流中实现标准LSTM / GRU单元？标准实现（例如tf.contrib.rnn.GRUCell）没有用于创建没有偏置项的单元格的参数。

亲切的问候，

Answer 1

对于GRU，我想您可以删除与偏差项相关的两行代码：

gate_inputs = nn_ops.bias_add(gate_inputs, self._gate_bias) ... candidate = nn_ops.bias_add(candidate, self._candidate_bias)

连同两个偏差变量。