在数据框列上应用模糊匹配,并将结果保存在新列中

时间:2016-07-25 20:59:29

标签: python pandas fuzzy-search fuzzywuzzy

我有两个数据帧,每个数据帧都有不同的行数。下面是每个数据集的几行

df1 =
     Company                                   City         State  ZIP
     FREDDIE LEES AMERICAN GOURMET SAUCE       St. Louis    MO     63101
     CITYARCHRIVER 2015 FOUNDATION             St. Louis    MO     63102
     GLAXOSMITHKLINE CONSUMER HEALTHCARE       St. Louis    MO     63102
     LACKEY SHEET METAL                        St. Louis    MO     63102

df2 = 
     FDA Company                    FDA City    FDA State   FDA ZIP
     LACKEY SHEET METAL             St. Louis   MO          63102
     PRIMUS STERILIZER COMPANY LLC  Great Bend  KS          67530
     HELGET GAS PRODUCTS INC        Omaha       NE          68127
     ORTHOQUEST LLC                 La Vista    NE          68128

我使用combined_data = pandas.concat([df1, df2], axis = 1)并排加入了他们。我的下一个目标是使用来自df1['Company']模块的几个不同匹配命令将df2['FDA Company']下的每个字符串与fuzzy wuzzy下的每个字符串进行比较,并返回最佳匹配值及其名称。我想将它存储在一个新列中。例如,如果我在fuzz.ratiofuzz.token_sort_ratio的{​​{1}}上执行LACKY SHEET METALdf1['Company'],则会返回最佳匹配为df2['FDA Company']得分为LACKY SHEET METAL,然后将其保存在100的新列中。结果看起来像

combined data

我试过

combined_data =
     Company                                   City         State  ZIP      FDA Company                     FDA City    FDA State   FDA ZIP     fuzzy.token_sort_ratio    match    fuzzy.ratio         match
     FREDDIE LEES AMERICAN GOURMET SAUCE       St. Louis    MO     63101    LACKEY SHEET METAL              St. Louis   MO          63102       LACKEY SHEET METAL        100      LACKEY SHEET METAL  100
     CITYARCHRIVER 2015 FOUNDATION             St. Louis    MO     63102    PRIMUS STERILIZER COMPANY LLC   Great Bend  KS          67530
     GLAXOSMITHKLINE CONSUMER HEALTHCARE       St. Louis    MO     63102    HELGET GAS PRODUCTS INC         Omaha       NE          68127
     LACKEY SHEET METAL                        St. Louis    MO     63102    ORTHOQUEST LLC                  La Vista    NE          68128

但由于列的长度不同而出现错误。

我很难过。我怎么能做到这一点?

1 个答案:

答案 0 :(得分:11)

我不知道你在做什么。我就是这样做的。

from fuzzywuzzy import fuzz
from fuzzywuzzy import process

创建一系列要比较的元组:

compare = pd.MultiIndex.from_product([df1['Company'],
                                      df2['FDA Company']]).to_series()

创建一个特殊函数来计算模糊指标并返回一系列。

def metrics(tup):
    return pd.Series([fuzz.ratio(*tup),
                      fuzz.token_sort_ratio(*tup)],
                     ['ratio', 'token'])

metrics应用于compare系列

compare.apply(metrics)

enter image description here

下一部分有很多方法可以做到这一点:

获取与df1

的每一行最接近的匹配项
compare.apply(metrics).unstack().idxmax().unstack(0)

enter image description here

获取与df2

的每一行最接近的匹配项
compare.apply(metrics).unstack(0).idxmax().unstack(0)

enter image description here