在两个数据框列之间更快地查找-Python / Pandas Way

时间:2019-02-22 19:54:28

标签: python python-3.x pandas performance

我有两个数据帧,每个数据帧约有25万行。我正在尝试在两个数据框的列之间进行模糊查找。查找后,我需要与阈值匹配的索引。

以下是一些详细信息,

我的df1

   Name     State      Zip        combined_1
0  Auto     MN            10      Auto,MN,10 
1  Rtla     VI           253      Rtla,VI,253  
2  Huka     CO         56218      Huka,CO,56218
3  kann     PR           214      Kann,PR,214
4  Himm     NJ         65216      Himm,NJ,65216
5  Elko     NY         65418      Elko,NY,65418
6  Tasm     MA            13      Tasm,MA,13
7  Hspt     OH         43218      Hspt,OH,43218

我要查找的其他数据框

   Name     State      Zip        combined_2
0  Kilo     NC         69521      Kilo,NC,69521 
1  Kjhl     FL          3369      Kjhl,FL,3369
2  Rtla     VI         25301      Rtla,VI,25301
3  Illt     GA         30024      Illt,GA,30024
4  Huka     CO         56218      Huka,CO,56218
5  Haja     OH         96766      Haja,OH,96766
6  Auto     MN           010      Auto,MN,010
7  Clps     TX         44155      Clps,TX,44155

如果仔细观察,当我执行模糊查找时,我应该从df1索引6、4中获得df2中索引0和2的良好匹配。

所以我做到了

from fuzzywuzzy import fuzz
# Save df1 index
df_1index = []

# save df2 index
df2_indexes = []

# save fuzzy ratio
fazz_rat = []

for index, details in enumerate(df1['combined_1']):
    for ind, information in enumerate(df2['combined_2']):
        fuzmatch = fuzz.ratio(str(details), str(information))
        if fuzmatch >= 94:
            df_1index.append(index)
            df2_indexes.append(ind)
            fazz_rat.append(fuzmatch)

        else:
            pass

正如我所期望的,我正在获得本示例案例的结果,

df_1index
>> [0,2]

df2_indexes
>> [6,4]

要在两个数据帧中运行250K * 250K行,需要花费大量时间。

如何加快查找过程?是否有pandas或python方式可以提高性能?

0 个答案:

没有答案