我将Tensorflow用于NLP任务,并将预先训练的词嵌入用作我的神经网络的输入。我读过,嵌入也可以通过培训来更新。我使用LSTM作为模型,但我也想像网络参数一样更新嵌入。我不知道如何在网络中训练嵌入? 例如,如果我按如下方式使用Tensorflow教程中的代码示例
word_embeddings = tf.get_variable(“word_embeddings”,
[vocabulary_size, embedding_size])
embedded_word_ids = tf.nn.embedding_lookup(word_embeddings, word_ids)
,并使用Embedded_words_ids作为模型的输入。嵌入也会更新吗?