我有一个很大的(Nx4,> 10GB)阵列,需要根据col.2进行排序。
我正在读取我的数据,并使用Pandas进行排序。但是我无法将排序后的数据块组合在一起,给我一个在Col.2上排序的最终大型Nx4数组。我希望这个过程尽可能快。这是我尝试过的:
chunks = pd.read_csv(ifile[0], chunksize=50000, skiprows=0,
names=['col-1', 'col-2', 'col-3', 'col-4'])
for df in chunks:
df = df.sort_values(by='col-2', kind='mergesort') # sorted chunks
print(df)