熊猫:合并排序的数据框

时间:2020-08-12 17:43:26

标签: pandas numpy sorting pytables chunking

我有一个很大的(Nx4,> 10GB)阵列,需要根据col.2进行排序。

我正在读取我的数据,并使用Pandas进行排序。但是我无法将排序后的数据块组合在一起,给我一个在Col.2上排序的最终大型Nx4数组。我希望这个过程尽可能快。这是我尝试过的:

chunks = pd.read_csv(ifile[0], chunksize=50000, skiprows=0,
                     names=['col-1', 'col-2', 'col-3', 'col-4'])

for df in chunks:
    df = df.sort_values(by='col-2', kind='mergesort') # sorted chunks
    print(df)

0 个答案:

没有答案