在Python Pandas数据帧中替换词形还原字符串的问题

时间:2017-11-26 16:20:20

标签: python pandas spacy lemmatization

我有一个Python Pandas数据框,我需要在其中两列中对单词进行词形变换。我正在使用spacy。

import spacy
nlp = spacy.load("en")

我正在尝试使用基于此示例的词形还原(完美地运行):

doc3 = nlp(u"this is spacy lemmatize testing. programming books are more better than others")
for token in doc3: 
    print (token, token.lemma, token.lemma_)

我已将其重写为循环遍历数据框中其中一列的每一行:

for row in example['col1']:
    for token in row:
        print(token.lemma_)

但是,我无法弄清楚如何用词形词替换col1中的单词。

我试过这个,它不会返回错误,但也不会替换任何单词。知道出了什么问题吗?

for row in example['col1']:
    for token in row:
        token = token.lemma_

1 个答案:

答案 0 :(得分:0)

假设您的数据框包含字符串,如

example = pd.DataFrame({"col1":["this is spacy lemmatize testing.", "some programming books are better than others", "sounds like a quote from the Smiths"]})

apply和列表推导可以完成以下任务:

example["col1"].apply(lambda row: [w.lemma_ for w in nlp(row)])

(在代码的最后for循环中,您反复分配给token其属性token.lemma_,然后一次又一次地执行此操作(在每次迭代时覆盖此内容而不保留跟踪以前的值)。