我有两个数据帧,每个数据帧约有25万行。我正在尝试在两个数据框的列之间进行模糊查找。查找后,我需要与阈值匹配的索引。
以下是一些详细信息,
我的df1
:
Name State Zip combined_1
0 Auto MN 10 Auto,MN,10
1 Rtla VI 253 Rtla,VI,253
2 Huka CO 56218 Huka,CO,56218
3 kann PR 214 Kann,PR,214
4 Himm NJ 65216 Himm,NJ,65216
5 Elko NY 65418 Elko,NY,65418
6 Tasm MA 13 Tasm,MA,13
7 Hspt OH 43218 Hspt,OH,43218
我要查找的其他数据框
Name State Zip combined_2
0 Kilo NC 69521 Kilo,NC,69521
1 Kjhl FL 3369 Kjhl,FL,3369
2 Rtla VI 25301 Rtla,VI,25301
3 Illt GA 30024 Illt,GA,30024
4 Huka CO 56218 Huka,CO,56218
5 Haja OH 96766 Haja,OH,96766
6 Auto MN 010 Auto,MN,010
7 Clps TX 44155 Clps,TX,44155
如果仔细观察,当我执行模糊查找时,我应该从df1
索引6、4中获得df2
中索引0和2的良好匹配。
所以我做到了
from fuzzywuzzy import fuzz
# Save df1 index
df_1index = []
# save df2 index
df2_indexes = []
# save fuzzy ratio
fazz_rat = []
for index, details in enumerate(df1['combined_1']):
for ind, information in enumerate(df2['combined_2']):
fuzmatch = fuzz.ratio(str(details), str(information))
if fuzmatch >= 94:
df_1index.append(index)
df2_indexes.append(ind)
fazz_rat.append(fuzmatch)
else:
pass
正如我所期望的,我正在获得本示例案例的结果,
df_1index
>> [0,2]
df2_indexes
>> [6,4]
要在两个数据帧中运行250K * 250K行,需要花费大量时间。
如何加快查找过程?是否有pandas或python方式可以提高性能?