在mxnet符号嵌入层中使用经过FastText训练的嵌入

Question

如何在语料库上运行fasttext，并在mxnet符号嵌入层中使用这些嵌入？

Answer 1

为此，您首先需要加载包含FastText嵌入的矩阵，然后将其作为初始化程序传递给嵌入层：

embed_layer_3 = mx.sym.Embedding(data=input_x_3, weight=the_emb_3, input_dim=vocab_size, output_dim=embedding_dim, name='vocab_embed')

我以here为例，他们使用“手套嵌入”，但想法是相同的。

我强烈建议您使用Gluon API而不是Symbol API。在这种情况下，对您来说，使用GluonNLP软件包的所有优点将更加容易，该软件包已经预先训练了FastText嵌入。请参阅this tutorial，以了解如何在GluonNLP中使用Fasttext