在使用预训练词嵌入模型时,在Keras嵌入层中设置Trainable = True

时间:2019-08-01 14:56:20

标签: keras word-embedding

我正在尝试构建LSTM模型来执行文本分类任务。模型层之一是嵌入层,我使用了预训练的word2vec为其创建了嵌入矩阵,如代码所示。 我看到许多教程使用预训练词嵌入模型为嵌入层设置种子,但是当他们这样做时,他们将Trainable属性设置为False,因此在模型拟合期间不会更新权重。所以我的问题是,如果我将Trainable = True设置为True,那会导致我的模型过度拟合吗?

    from keras.layers import Embedding

    embedding_layer = Embedding(vocab_size,
                                 EMBEDDING_DIM,
                                 weights=[embedding_matrix],
                                 input_length=MAX_SEQUENCE_LENGTH,
                                 trainable=False)

0 个答案:

没有答案