Question

我正在尝试在keras中实现Seq-2-Seq模型，但无法解决SimpleRNN中的错误：

TypeError: ('Keyword argument not understood:', 'initial_state')

这是一个小例子：

from keras.models import Model
from keras.layers import Input, SimpleRNN, Embedding

encoder_input = Input(shape=(16,))
encoder_embedding = Embedding(input_dim=40, output_dim=12)(encoder_input)
encoder_rnn_out, encoder_rnn_state = SimpleRNN(32, activation='relu', return_sequences=False, return_state=True)(encoder_embedding)

decoder_input = Input(shape=(11,)) 
decoder_embedding = Embedding(input_dim=12, output_dim=12)(decoder_input) 
decoder_rnn = SimpleRNN(32, activation='relu', initial_state=encoder_rnn_state, return_sequences=True)(decoder_embedding) 
decoder_predictions = Dense(12, activation='softmax')(decoder_rnn)

model = Model(encoder_input, decoder_predictions)

这些是我的tensorflow和keras版本（我已经使用pip卸载并重新安装了它们）

$ conda list -n py36 | grep tensorflow
tensorflow                1.13.1                    <pip>
tensorflow-estimator      1.13.0                    <pip>
$ conda list -n py36 | grep Keras
Keras                     2.2.4                     <pip>
Keras-Applications        1.0.7                     <pip>
Keras-Preprocessing       1.0.9                     <pip>

我的~/.keras/keras.json

{
    "epsilon": 1e-07,
    "floatx": "float32",
    "backend": "tensorflow"
}

Answer 1

SimpleRNN构造函数不使用initial_state作为输入参数。您可能打算使用kernel_initializer或recurrent_initializer参数。

请参见https://keras.io/layers/recurrent/。

Answer 2

我遇到了同样的问题，并找到了答案。

更改此

m4

对此。

decoder_rnn = SimpleRNN(32, activation='relu', initial_state=encoder_rnn_state, return_sequences=True)(decoder_embedding)

keras-无法理解关键字initial_state

2 个答案: