Question

我为文本分析做了一个预处理部分，并且在删除了停用词和像这样的词干之后

test[col]=test[col].apply(lambda x: [ps.stem(item) for item in re.findall(r"[\w']+", x) if ps.stem(item) not in stop_words])
train[col]=train[col].apply(lambda x: [ps.stem(item) for item in re.findall(r"[\w']+", x) if ps.stem(item) not in stop_words])

我有一个列有“清理过的单词”的列。这是列中的3行

['size']
['pcs', 'new', 'x', 'kraft', 'bubble', 'mailers', 'lined', 'bubble', 'wrap', 'protection', 'self', 'sealing', 'peelandseal', 'adhesive', 'keeps', 'contents', 'secure', 'tamper', 'proof', 'durable', 'lightweight', 'kraft', 'material', 'helps', 'save', 'postage', 'approved', 'ups', 'fedex', 'usps']
['brand', 'new', 'coach', 'bag', 'bought', 'rm', 'coach', 'outlet']

我想将CountVectorizer应用于列

from sklearn.feature_extraction.text import CountVectorizer
cv=CountVectorizer(max_features=1500, analyzer='word' , lowercase=False) #will leave only 1500 words
X_train = cv.fit_transform(train[col])

但我收到了错误

TypeError: expected string or bytes-like object

从列表创建字符串并再次由CountVectorizer分隔会有点奇怪。

提前致谢。

Answer 1

由于我没有找到其他方法来避免错误，我加入了列

中的列表

train[col]=train[col].apply(lambda x: " ".join(x) )
test[col]=test[col].apply(lambda x: " ".join(x) )

只有在那之后我才开始得到结果

X_train = cv.fit_transform(train[col])
X_train=pd.DataFrame(X_train.toarray(), columns=cv.get_feature_names())

Answer 2

当你使用fit_transform时，传入的参数必须是一个可迭代的字符串或类似字节的对象。看起来你应该在你的专栏上应用它。

X_train = train[col].apply(lambda x: cv.fit_transform(x))

您可以阅读fit_transform here的文档。

Answer 3

您的输入应为字符串列表或字节列表，在这种情况下，您似乎提供了列表列表。

看起来您已经将字符串标记为标记，位于单独的列表中。您可以执行以下操作：

inp = [['size']
['pcs', 'new', 'x', 'kraft', 'bubble', 'mailers', 'lined', 'bubble', 'wrap', 
'protection', 'self', 'sealing', 'peelandseal', 'adhesive', 'keeps', 
'contents', 'secure', 'tamper', 'proof', 'durable', 'lightweight', 'kraft', 
'material', 'helps', 'save', 'postage', 'approved', 'ups', 'fedex', 'usps']]
['brand', 'new', 'coach', 'bag', 'bought', 'rm', 'coach', 'outlet']


inp = ["<some_space>".join(x) for x in inp]

vectorizer = CountVectorizer(tokenizer = lambda x: x.split("<some_space>"), analyzer="word")

vectorizer.fit_transform(inp)

Answer 4

要将CountVectorizer应用于单词列表，应禁用分析器。

x=[['ab','cd'], ['ab','de']]
vectorizer = CountVectorizer(analyzer=lambda x: x)
vectorizer.fit_transform(x).toarray()

Out:
array([[1, 1, 0],
       [1, 0, 1]], dtype=int64)

将CountVectorizer应用于包含Python行中单词列表的列

4 个答案: