如何训练反向嵌入，如vec2word？

Question

如何训练神经网络从矢量表示到一个热矢量？我感兴趣的例子是矢量表示是word2vec嵌入的输出，我想要映射到用于训练嵌入的语言中的单个单词，所以我猜这是vec2word？

更详细一点;如果我理解正确，嵌入空间中的一组点代表相似的单词。因此，如果您从该群集中的点进行采样，并将其用作vec2word的输入，那么输出应该是相似单个词的映射？

我想我可以做类似于编码器解码器的事情，但是它必须是那么复杂/使用这么多参数吗？

这是TensorFlow tutorial，如何训练word2vec，但我找不到任何帮助来反过来？我很高兴使用任何deeplearning库，并且可以使用采样/概率来完成它。

非常感谢你的帮助，Ajay。

Answer 1

您可以做的最简单的事情是使用最近邻词。给定未知单词fq的查询功能以及已知单词R={fr}的参考要素集，然后您可以找出fr*的最近fq的内容，以及使用相应的fr*字作为fq的字词。