在负采样设置中如何访问Gensim Word2Vec中的W和W'矩阵?

时间:2019-03-10 04:13:39

标签: python gensim

这是model.wv.vectorsmodel.trainables.syn1neg吗?足够运行后它们会相似吗?

1 个答案:

答案 0 :(得分:0)

是的,wv.vectorssyn1neg数组对应于其他地方描述为 W W'的权重。

但是,它们在训练后不一定会变得相似。 (如果这是理想的端点,则可以将它们分配给相同的值!)

相反,它们扮演着不同的角色,通常在模型训练完成后不进行比较。只有“输入” /“投影”向量是通常被称为word2vec词向量的东西。

Microsoft Research的Mitra等人观察到,隐藏输出权重(syn1neg)在其“ Dual-Embedding Space Model”文字中可以用于某些目的。但是,我没有注意到这些负采样层向量使用得太多。