我有这个数据框,只需要保留两列具有倒数的行(此处为numA和numB)。
gpm = pd.DataFrame(data={
'id':[1,2,3,4,5,6,7,8,9],
'time':[150315,150315,150315,150315,150315,150315,150315,150315,150315],
'numA':['A','D','C','B','A','C','A','E','D'],
'numB':['B','C','B','A','B','D','B','A','A'],
'antA':['MSPDV','VIELU','RMPC1','MJCIH','PALT2','M2PV3','MACIF','MACIF','VIELU'],
'antB':['BPDV8','0GRI3','SSFDJ','SSFDJ','SSFDJ','CCPG1','0GRI3','SSFDJ','SSFDJ']
})
我只希望numA和numB列是倒数的行。也就是说,保留在(A,B),(B,A)和(C,D),(D,C)对出现的位置的线。
目前,我的解决方案包括制作所有唯一标识符的列表,并逐行查看实际合作伙伴是否在合作伙伴列表中
这非常慢....(也许不正确!)
## here's my code
parties = {}
nums = gpm['numA']+gpm['numB']
for i in nums.unique():
parties[i] = gpm['numB'][gpm['numA'] == i]
parties[i] = gpm['numA'][gpm['numB'] == i]
new_d = gpm.iloc[[0]]
for i in np.arange(1,gpm.shape[0]):
numa = gpm.iloc[i]['numA']
if gpm.iloc[i]['numB'] in parties[numa]:
new_d.append(gpm.iloc[[i]])
有什么精明的编码器可以帮助加快速度吗?实际要解析的文件约为15GB的csv。
谢谢
答案 0 :(得分:0)
在您的示例中,我假设id = 3、8和9的行是有害,它们分别是(C,B),(E,A)和(D,A)?如果是这样,这是通过比较numA
和numB
中的值以获取特定可接受组合的一种标准方法:
In [5]: gpm[((gpm['numA'] == 'A') & (gpm['numB'] == 'B')) |
...: ((gpm['numA'] == 'B') & (gpm['numB'] == 'A')) |
...: ((gpm['numA'] == 'C') & (gpm['numB'] == 'D')) |
...: ((gpm['numA'] == 'D') & (gpm['numB'] == 'C'))
...: ]
Out[5]:
id time numA numB antA antB
0 1 150315 A B MSPDV BPDV8
1 2 150315 D C VIELU 0GRI3
3 4 150315 B A MJCIH SSFDJ
4 5 150315 A B PALT2 SSFDJ
5 6 150315 C D M2PV3 CCPG1
6 7 150315 A B MACIF 0GRI3
(将结果分配给new_d
)