Question

我正在尝试生成一些单词级的文本，并遇到了以下问题：

我的输入看起来像这样：

   tokenized_seq = [[w2v_model.wv.vocab[word].index for word in w2v_data[i]] for i in range(len(w2v_data))]
   x_seq = []
   y_seq = []

   for seq in tokenized_seq:
      x_seq.append(seq[:-1])
      y_seq.append([seq[-1]])

因此，我将沿着滚动窗口具有固定大小（标记化的_seq是具有固定长度的序列的列表）滚动序列（编码的单词usnig word2vec）。

看例子：

代码块：

print(x_seq[0], '->', y_seq[0])  
print(' '.join([w2v_model.wv.index2word[i] for i in x_seq[0]]), '->', w2v_model.wv.index2word[y_seq[0].pop()])

输出：

[608, 1661, 1, 4260, 1, 3, 2978, 741, 0, 153, 740, 1, 12004] -> [109]
часть первая . i . — eh bien , mon prince . gênes -> et

然后，我尝试将以上全部内容输入到Embedding层。

model = Sequential()
model.add(Embedding(input_dim=vocab_size,
                    output_dim=emdedding_size,
                    input_length=avg_sent_len-1,
                    weights=[predtrained_weights]
                    trainable=False))

model.add(Bidirectional(LSTM(units=128)))

model.add(Dense(units=vocab_size, activation='softmax'))

model.compile(loss='categorical_crossentropy', optimizer='adam', metrics=['accuracy'])

history = model.fit(x_seq, y_seq,
                   epochs=10,
                   batch_size=128,
                   validation_split=0.2,
                   verbose=2)

嵌入参数为：

predtrained_weights = w2v_model.wv.vectors
vocab_size, emdedding_size = w2v_model.wv.vectors.shape

{avg_sent_len是x_seq

中每个序列的len

模型编译良好，但是拟合时出现以下错误：

ValueError: Error when checking target: expected dense_40 to have shape (31412,) but got array with shape (223396,)

（31412，）为vocab_size 223396的长度为x_seq或y_seq（输入序列数）那么，有人可以帮助我吗？

Answer 1

您输入的x_seq应该是形状为(batch_size, seq_len)的一个numpy数组。尝试添加x_seq = np.array(x_seq)。

如何在Keras的Embedding层中指定带有数组列表的输入？

1 个答案: