python gensim从doc2vec taggedlinedocument中检索原始句子

时间:2016-10-30 05:32:51

标签: python gensim word2vec doc2vec

我正在使用Gensim的doc2vec方法来读取我的文本文件,每行包含1个句子。它将我的文件读入字典,其中键是一个标记化的术语列表,值是句号。

这是我的代码:

    from gensim import utils
    from gensim.models.doc2vec import LabeledSentence,TaggedLineDocument
    from gensim.models import Doc2Vec
    new_file = open('new_file.txt','w')
    with open('myfile.txt','r') as inp:
        for line in inp:
            utils.simple_preprocess(line)
            file1.write(str(utils.simple_preprocess(line)) + "\n")
    file1.close()

新文件的输出示例:

[u'hi', u'how', u'are', u'you']
[u'its', u'such', u'great', u'day']
[u'its', u'such', u'great', u'day']
[u'its', u'such', u'great', u'day']

然后我将该列表提供给gensim的taggedlinedocument函数:

s = TaggedLineDocument('myfile.txt')
for k,v in s:
    print k, v

示例输出:

[u'hi', u'how', u'are', u'you'] [0]
[u'hi', u'how', u'are', u'you'] [1]
[u'hi', u'how', u'are', u'you'] [2]
[u'its', u'such', u'a', u'great', u'day'] [3]
[u'its', u'such', u'a', u'great', u'day'] [4]

问题是,给定标签id(例子0),我如何取回原始句子?

1 个答案:

答案 0 :(得分:1)

Gensim的Word2Vec / Doc2Vec模型不存储语料库数据 - 他们只在多次传递中检查它以训练模型。如果需要检索原始文本,则应使用自己的数据结构。