Numpy重塑到位

时间:2017-10-04 21:33:45

标签: numpy reshape in-place memory-consumption

有没有办法在numpy数组上进行重塑,但是就位。我的问题是我的数组很大,所以任何不必要的副本都不会使内存紧张。

我目前的做法是这样的:

train_x = train_x.reshape(n,32*32*3)

这并没有完全解决问题,因为它创建了一个新数组,然后将标签train_x归属到新数组。

在正常情况下这可以,因为垃圾收集器很快会收集原始数组。

问题是我有这样的事情:

train_x, train_y = train_set
train_x = train_x.reshape(n,32*32*3)

所以在这种情况下即使train_x不再指向原始数组,仍然有一个指向train_set内原始数组的指针。

我想要一种方法将前一个数组的所有指针都更改为这个新数组。有办法吗?

或许还有其他一些方法来处理这个/

1 个答案:

答案 0 :(得分:7)

对于Python,请记住,几个变量或名称可以指向同一个对象,例如numpy数组。数组也可以有视图,它们是新的数组对象,但具有共享数据缓冲区。副本有自己的数据缓冲区。

In [438]: x = np.arange(12)
In [439]: y = x                # same object
In [440]: y.shape = (2,6)      # inplace shape change
In [441]: y
Out[441]: 
array([[ 0,  1,  2,  3,  4,  5],
       [ 6,  7,  8,  9, 10, 11]])
In [442]: x
Out[442]: 
array([[ 0,  1,  2,  3,  4,  5],
       [ 6,  7,  8,  9, 10, 11]])
In [443]: y = y.reshape(3,4)        # y is a new view
In [444]: y
Out[444]: 
array([[ 0,  1,  2,  3],
       [ 4,  5,  6,  7],
       [ 8,  9, 10, 11]])
In [445]: x
Out[445]: 
array([[ 0,  1,  2,  3,  4,  5],
       [ 6,  7,  8,  9, 10, 11]])

y具有不同的形状,但共享数据缓冲区:

In [446]: y += 1
In [447]: y
Out[447]: 
array([[ 1,  2,  3,  4],
       [ 5,  6,  7,  8],
       [ 9, 10, 11, 12]])
In [448]: x
Out[448]: 
array([[ 1,  2,  3,  4,  5,  6],
       [ 7,  8,  9, 10, 11, 12]])