如何使Keras模型预测的文本重新回到单词列表中?

时间:2019-04-14 16:09:18

标签: python tensorflow keras deep-learning

我正在尝试构建一个Autoencoder神经网络,以在文本的单列列表中查找异常值。文本输入如下所示:

about_header.png
amaze_header_2.png
amaze_header.png
circle_shape.xml
disableable_ic_edit_24dp.xml
fab_label_background.xml
fab_shadow_black.9.png
fab_shadow_dark.9.png
fab_shadow_light.9.png
fastscroller_handle_normal.xml
fastscroller_handle_pressed.xml
folder_fab.png

问题是我真的不知道自己在做什么,我正在使用Keras,并且已经使用Keras令牌生成器将这些文本行转换为矩阵,因此可以将其输入到Keras模型中所以我可以拟合并预测它们。

问题在于,预测函数返回的是我认为是矩阵的内容,我无法确定到底发生了什么,因为我无法像以前一样将矩阵转换回文本列表。

>

我的整个代码如下:

import sys
from keras import Input, Model
import matplotlib.pyplot as plt
from keras.layers import Dense
from keras.preprocessing.text import Tokenizer

with open('drawables.txt', 'r') as arquivo:
    dados = arquivo.read().splitlines()

tokenizer = Tokenizer(filters='', nb_words=None)
tokenizer.fit_on_texts(dados)

x_dados = tokenizer.texts_to_matrix(dados, mode="count")

tamanho = len(tokenizer.word_index) + 1
tamanho_comprimido = int(tamanho/1.25)

x = Input(shape=(tamanho,))

# Encoder
hidden_1 = Dense(tamanho_comprimido, activation='relu')(x)
h = Dense(tamanho_comprimido, activation='relu')(hidden_1)

# Decoder
hidden_2 = Dense(tamanho, activation='relu')(h)
r = Dense(tamanho, activation='sigmoid')(hidden_2)

autoencoder = Model(input=x, output=r)

autoencoder.compile(optimizer='adam', loss='mse')

history = autoencoder.fit(x_dados, x_dados, epochs=25, shuffle=False)

plt.plot(history.history["loss"])
plt.ylabel("Loss")
plt.xlabel("Epoch")
plt.show()

encoded = autoencoder.predict(x_dados)

result = ???????

1 个答案:

答案 0 :(得分:2)

您可以使用原始编码tokenizer.sequences_to_texts对文本进行解码。这接受整数序列列表。要获取序列,可以使用np.argmax

encoded_argmax  = np.argmax(encoded, axis=1)
text = tokenizer.sequences_to_texts([encoded_argmax])  # since your output is just a number needs to convert into list