如何根据一列比较两个不同大小的数据帧?

时间:2019-10-29 20:35:26

标签: python r pandas comparison

我有两个大小不同的数据帧

df1

     YearDeci  Year  Month  Day  ...  Magnitude    Lat    Lon  
0     1551.997260  1551     12   31  ...        7.5  34.00  74.50      
1     1661.997260  1661     12   31  ...        7.5  34.00  75.00      
2     1720.535519  1720      7   15  ...        6.5  28.37  77.09      
3     1734.997260  1734     12   31  ...        7.5  34.00  75.00      
4     1777.997260  1777     12   31  ...        7.7  34.00  75.00      

df2

         YearDeci  Year  Month  Day  Hour  ...  Seconds   Mb     Lat     Lon  
0     1669.510753  1669      6    4     0  ...        0  NaN  33.400  73.200    
1     1720.535519  1720      7   15     0  ...        0  NaN  28.700  77.200    
2     1780.000000  1780      0    0     0  ...        0  NaN  35.000  77.000    
3     1803.388014  1803      5   22    15  ...        0  NaN  30.600  78.600    
4     1803.665753  1803      9    1     0  ...        0  NaN  30.300  78.800
5     1803.388014  1803      5   22    15  ...        0  NaN  30.600  78.600.

1。我想根据“ YearDeci”列比较df1和df2。并找出常见条目和唯一条目(除常见行之外的其他行)。

2。根据“ YearDeci”列输出df1中的公共行(相对于df2)。

3。根据“ YearDeci”列在df1中输出唯一行(相对于df2)。

* NB:“ YearDeci”中的小数位数差异最多为 +/- 0.0001

预期输出就像

row_common =

      YearDeci     Year   Month  Day ...   Mb     Lat     Lon 
2     1720.535519  1720      7   15  ...  6.5  28.37  77.09

row_unique =

      YearDeci  Year  Month  Day  ...  Magnitude    Lat    Lon  
0     1551.997260  1551     12   31  ...        7.5  34.00  74.50      
1     1661.997260  1661     12   31  ...        7.5  34.00  75.00           
3     1734.997260  1734     12   31  ...        7.5  34.00  75.00      
4     1777.997260  1777     12   31  ...        7.7  34.00  75.00 

2 个答案:

答案 0 :(得分:1)

公共行的索引已经在变量ind

因此,要查找唯一条目,我们要做的就是根据“ ind”中的索引从df1中删除公共行。 因此,最好使另一个CSV文件包含公共条目并将其读取为变量。

df1_common = pd.read_csv("df1_common.csv")

df1_uniq = df1.drop(df1.index[ind.ind1])

答案 1 :(得分:0)

首先在“每个都有”上比较 df1.YearDeci df2.YearDeci 原理。 要执行比较,请使用 np.isclose 函数与假定的绝对值 容忍。

结果是一个 boolean 数组:

  • 第一个索引- df1 中的索引,
  • 第二个索引- df2 中的索引。

然后使用 np.argwhere 查找 True 值的索引,即索引 df1 df2 中的“相关”行的集合,并根据它们创建一个DateFrame。

执行上述操作的代码为:

ind = pd.DataFrame(np.argwhere(np.isclose(df1.YearDeci[:, np.newaxis],
    df2.YearDeci[np.newaxis, :], atol=0.0001, rtol=0)),
    columns=['ind1', 'ind2'])

然后,在两个DataFrame中都有成对的索引指向“相关”行, 执行以下合并:

result = ind.merge(df1, left_on='ind1', right_index=True)\
    .merge(df2, left_on='ind2', right_index=True, suffixes=['_1', '_2'])

最后一步是删除两个“辅助索引列”( ind1 ind2 ):

result.drop(columns=['ind1', 'ind2'], inplace=True)

结果(分为2部分)是:

    YearDeci_1  Year_1  Month_1  Day_1  Magnitude  Lat_1  Lon_1   YearDeci_2  \
0  1720.535519    1720        7     15        6.5  28.37  77.09  1720.535519   

   Year_2  Month_2  Day_2  Hour  Seconds  Mb  Lat_2  Lon_2  
0    1720        7     15     0        0 NaN   28.7   77.2