如何在pandas python中找到具有完全相同的列和索引但不同值的数据帧列表的交集?

时间:2017-11-22 23:57:24

标签: python pandas dataframe

我有一个pandas数据帧列表:

lis = [df1, df2, df3, ... , dfn]

我想找到这些数据帧的交集,以便我的最终df被调用 intersection_df只有全部共有的值。如果没有找到交叉点,所有列和行应该仍然在那里但是用na填充。

我的数据框都是多维的,具有相同数量的行和列,如下所示:

              1   2   3   4   5  
cat   cat     1   0   0   1   1  
      dog     1   0   0   1   1  
      fox     0   0   0   0   0  
      jumps   0   0   1   1   1  
      over    1   0   0   1   1  
      the     1   0   0   1   1
dog   cat     1   0   0   1   0  
      dog     1   0   0   1   0  
      fox     0   0   0   0   0  
      jumps   1   0   0   1   0  
      over    1   0   0   1   0  
      the     1   1   0   1   0 

我尝试过在stackoverflow上找到的不同解决方案,但没有运气,任何想法?

1 个答案:

答案 0 :(得分:1)

看看是否有效

from functools import reduce
import pandas as pd

lis = [df1, df2, df3, ... , dfn]

inner_align = lambda d1, d2: d1.align(d2, 'inner')[0]
outer_align = lambda d1, d2: d1.align(d2, 'outer')[0]

inner_indcs = reduce(inner_align, lis)
outer_indcs = reduce(outer_aling, lis)

innout = lambda d, i, o: d.reindex_like(i).reindex_like(o)

output = innout(lis[0], inner_indcs, outer_indcs)

设置

lis = [
    pd.DataFrame(1, list('abc'), list('xyz')),
    pd.DataFrame(1, list('acd'), list('wyz')),
    pd.DataFrame(1, list('bec'), list('ysu')),
    pd.DataFrame(1, list('cef'), list('xgy')),
]

print(*lis, sep='\n'*2)

   x  y  z
a  1  1  1
b  1  1  1
c  1  1  1

   w  y  z
a  1  1  1
c  1  1  1
d  1  1  1

   y  s  u
b  1  1  1
e  1  1  1
c  1  1  1

   x  g  y
c  1  1  1
e  1  1  1
f  1  1  1

演示

from functools import reduce
import pandas as pd

inner_align = lambda d1, d2: d1.align(d2, 'inner')[0]
outer_align = lambda d1, d2: d1.align(d2, 'outer')[0]

inner_indcs = reduce(inner_align, lis)
outer_indcs = reduce(outer_align, lis)

innout = lambda d, i, o: d.reindex_like(i).reindex_like(o)

output = innout(lis[0], inner_indcs, outer_indcs)

print(output)

    g   s   u   w   x    y   z
a NaN NaN NaN NaN NaN  NaN NaN
b NaN NaN NaN NaN NaN  NaN NaN
c NaN NaN NaN NaN NaN  1.0 NaN
d NaN NaN NaN NaN NaN  NaN NaN
e NaN NaN NaN NaN NaN  NaN NaN
f NaN NaN NaN NaN NaN  NaN NaN