如何在以下tfidf模型中获得最具代表性的功能?

时间:2016-12-23 08:49:02

标签: scikit-learn tf-idf

您好我有以下列表:

listComments = ["comment1","comment2","comment3",...,"commentN"]

我创建了一个tfidf矢量化器来从我的评论中获取模型,如下所示:

tfidf_vectorizer = TfidfVectorizer(min_df=10,ngram_range=(1,3),analyzer='word')
tfidf = tfidf_vectorizer.fit_transform(listComments)

现在为了更多地了解我的模型,我想获得最具代表性的功能,我尝试过:

print("these are the features :",tfidf_vectorizer.get_feature_names())
print("the vocabulary :",tfidf_vectorizer.vocabulary_)

这给了我一个单词列表,我认为我的模型用于矢量化:

these are the features : ['10', '10 days', 'red', 'car',...]

the vocabulary : {'edge': 86, 'local': 96, 'machine': 2,...}

然而,我想找到一种方法来获得30个最具代表性的功能,我的意思是在我的tfidf模型中达到最高值的单词,具有最高反向频率的单词,我在文档中阅读但我不是能够找到这种方法我真的很感谢这个问题的帮助,在此先感谢,

1 个答案:

答案 0 :(得分:2)

如果您想获得与idf分数相关的词汇表,可以使用idf_属性和argsort

# create an array of feature names
feature_names = np.array(tfidf_vectorizer.get_feature_names())

# get order
idf_order = tfidf_vectorizer.idf_.argsort()[::-1]

# produce sorted idf word
feature_names[idf_order]

如果您想获得每个文档的tfidf分数的排序列表,您可以执行类似的操作。

# get order for all documents based on tfidf scores
tfidf_order = tfidf.toarray().argsort()[::-1]

# produce words
feature_names[tfidf_order]