使用scikit-learn TfIdf和gensim LDA

时间:2013-10-21 21:16:10

标签: python scikit-learn text-mining lda

我在scikit中使用了各种版本的TFIDF来学习一些文本数据的建模。

vectorizer = TfidfVectorizer(min_df=1,stop_words='english')

结果数据X采用以下格式:

<rowsxcolumns sparse matrix of type '<type 'numpy.float64'>'
    with xyz stored elements in Compressed Sparse Row format>

我想尝试使用LDA作为减少稀疏矩阵维数的方法。 有没有一种简单的方法可以将NumPy稀疏矩阵X输入到gensim LDA模型中?

lda = models.ldamodel.LdaModel(corpus=corpus, id2word=dictionary, num_topics=100)

我可以忽略scikit并按照gensim教程的方式进行概述,但我喜欢scikit矢量化器及其所有参数的简单性。

1 个答案:

答案 0 :(得分:10)

http://radimrehurek.com/gensim/matutils.html

class gensim.matutils.Sparse2Corpus(sparse, documents_columns=True)

      Convert a matrix in scipy.sparse format into a streaming gensim corpus.