在Python中加载火车数据时出现MemoryError

时间:2019-07-08 12:16:41

标签: python numpy

我尝试使用以下代码创建形状为(5000,1024,1024,1)的numpy零数组:

X_train = np.zeros((5000,1024,1024,1), dtype=np.uint8)

但是,我收到了MemoryError。有什么办法可以解决这个问题? 我使用带有AMD A6 Elite和4GB RAM的64位计算机。

1 个答案:

答案 0 :(得分:0)

您可以考虑使用模拟numpy API的dask数组,但将本地磁盘用于大于内存的对象

>>> import numpy as np
>>> np.zeros((5000,1024,1024,1), dtype=np.uint8)
Traceback (most recent call last):
  File "<input>", line 1, in <module>
    np.zeros((5000,1024,1024,1), dtype=np.uint8)
MemoryError
>>> import dask.array as da
>>> da.zeros((5000,1024,1024,1), dtype=np.uint8)
dask.array<zeros, shape=(5000, 1024, 1024, 1), dtype=uint8, chunksize=(500, 256, 256, 1)>