熊猫-创建差异数矩阵

时间:2020-07-21 08:49:42

标签: python pandas numpy

我有一个这样的数据框

outline-offset: -1px;

我想计算行之间的差异数,例如A和B之间的差异数为2,A和C为3,B和C为4。

我真正想要的是一个差异矩阵,例如

    L1  L2  L3  L4  L5
A   1   2   3   4   5
B   1   2   4   3   5
C   1   3   3   2   1

1 个答案:

答案 0 :(得分:2)

第一个循环解决方案按行进行迭代,按DataFrame和sum进行比较:

df = df.apply(lambda x: df.ne(x).sum(axis=1), axis=1)
print (df)
   A  B  C
A  0  2  3
B  2  0  4
C  3  4  0

或者为了提高性能,将numpy中的值与3d数组的广播进行比较,求和,最后使用DataFrame构造函数:

a = df.to_numpy()
out = pd.DataFrame((a != a[:, None]).sum(2), index=df.index, columns=df.index)
print (out)
   A  B  C
A  0  2  3
B  2  0  4
C  3  4  0

np.random.seed(123)
df = pd.DataFrame( np.random.randint(20, size=(100, 500)))
print (df)


In [119]: %%timeit
     ...: df.apply(lambda x: df.ne(x).sum(axis=1), axis=1)
     ...: 
     ...: 
12.8 s ± 1.02 s per loop (mean ± std. dev. of 7 runs, 1 loop each)

In [120]: %%timeit
     ...: a = df.to_numpy()
     ...: pd.DataFrame((a != a[:, None]).sum(2), index=df.index, columns=df.index)
     ...: 
     ...: 
14.6 ms ± 325 µs per loop (mean ± std. dev. of 7 runs, 100 loops each)