如何从Word2Vec获取所有权重更新

时间:2018-06-19 22:39:53

标签: tensorflow gensim word2vec

我不仅对最终的W0和W1(也称为W和W')感兴趣,而且对学习中这两个矩阵的所有变化都感兴趣。

就目前而言,我正在使用gensim实现,但是与sklearn相比,gensim的API在我看来并不是很好地组织起来。因此,如果有可能/更容易获得这些值,我愿意在需要时转向tf。

我知道我可以破解主要代码;我的问题是是否已经有一个函数/变量。

1 个答案:

答案 0 :(得分:0)

没有用于查看单个训练示例更新或训练中的中间权重的特定API。

但是,您已经习惯了,而不是一次调用train(),而是让它运行所有纪元和所有学习速率更新(建议),而是一次调用一个纪元(提供)每次调用时您自己正确的增量start_alphaend_alpha,在两次调用之间查看单词向量(又称“投影权重”)和隐藏输出权重(默认为syn1neg)否定采样,或syn1(代表分层softmax)。

如果您需要更细粒度的报告,则需要修改源代码以添加所需的额外日志记录/标注/等。