Question

我想要做的是在当前时间步长将LSTM的输出作为下一个时间步的LSTM的输入。所以我希望LSTM在当前时间步骤预测单词at并将该单词作为输入提供给下一个时间步。那么这可以做到：

如何在训练期间指定输入和目标数据，即<configuration> <system.web> <httpRuntime maxRequestLength="2147483647" /> </system.web> </configuration> <system.webServer> <security> <requestFiltering> <requestLimits maxAllowedContentLength="2147483647" /> </requestFiltering> </security> </system.webServer>函数？

Answer 1

您不能直接在keras中执行此操作，但可以使用for循环和stateful网络执行此操作。这样的工作方式（假设您将句子存储为size=vocabulary_size的整数序列：

定义一个有状态网络，它接受一个单词并返回以下单词：

model = Input(batch_size=(batch_size, 1, 1)) 
model = Embedding(size_of_vocabulary, output_size, input_length=1)(input)
model = LSTM(lstm_1st_layer_size, return_sequences=True, stateful=True)(model)
....
model = LSTM(lstm_nth_layer_size, return_sequences=True, stateful=True)(model)
model = Dense(vocabulary_size, activation="softmax")

model.compile(loss="sparse_categorical_crossentropy", optimizer="rmsprop")

假设你有一个array_of_samples个例子(preceding_word, next_word)你可以通过以下方式来适应：
```
model.fit(array_of_samples[:,0], array_of_samples[:,1])
```

现在您可以尝试以下列方式预测内容：

sentence = [starting_word]
for i in range(len_of_sequence - 1):
    sentence.append(model.predict(numpy.array([[sentence[i]]).argmax())

现在sentence存储您新创建的句子

在Keras LSTM的每个时间步长获得输出

1 个答案: