Tensorflow更新嵌入

时间:2019-01-21 22:57:44

标签: python tensorflow word-embedding

我将Tensorflow用于NLP任务,并将预先训练的词嵌入用作我的神经网络的输入。我读过,嵌入也可以通过培训来更新。我使用LSTM作为模型,但我也想像网络参数一样更新嵌入。我不知道如何在网络中训练嵌入? 例如,如果我按如下方式使用Tensorflow教程中的代码示例

word_embeddings = tf.get_variable(“word_embeddings”,
    [vocabulary_size, embedding_size])
embedded_word_ids = tf.nn.embedding_lookup(word_embeddings, word_ids)

,并使用Embedded_words_ids作为模型的输入。嵌入也会更新吗?

0 个答案:

没有答案