标签: nlp lstm rnn word-embedding fasttext
我有1000万字的单词嵌入,这是在一个巨大的语料库上训练的。现在我想为词汇单词生成单词嵌入。我可以设计一些char RNN来使用这些单词嵌入并为词汇单词生成嵌入吗?或者还有其他任何我可以为OOV单词嵌入的内容吗?
FastText能够为OOV生成字嵌入,但它没有分布式培训或GPU实现方式,所以在我的情况下,完成培训可能需要将近3个月。对此有何建议?