我想知道在TensorFlow中我应该在哪里训练动态word2vec模型。也就是说，每个单词在每个时间段（t）具有不同的嵌入。基本上，我有兴趣跟踪词义的动态。
我正在考虑修改skip-gram word2vec目标，但是还有一个＆＃34; t＆＃34;在可能性中我需要总结的维度。此外，我在似然函数中的字嵌入上有一个l2时间正则化器，随着时间的推移连接嵌入，因此字嵌入随时间平滑演变。
举一个例子，想想本文第14页（第3.2节）（http://publications.lib.chalmers.se/records/fulltext/228927/228927.pdf）上的目标函数，除了为了使事情更简单，我有一个l2惩罚而不是不可微分l1 < / p>
我可以在R中完成此操作，但它无法扩展。所以，我正在考虑使用TensorFlow（我是新手）。所以，非常感谢任何帮助！