Pandas数据帧没有副本

时间:2013-04-30 19:38:51

标签: pandas

如何避免在创建Pandas DataFrame时获取提供的字典副本?

>>> a = np.arange(10)
>>> b = np.arange(10.0)
>>> df1 = pd.DataFrame(a)
>>> a[0] = 100
>>> df1
     0
0  100
1    1
2    2
3    3
4    4
5    5
6    6
7    7
8    8
9    9
>>> d = {'a':a, 'b':b}
>>> df2 = pd.DataFrame(d)
>>> a[1] = 200
>>> d
{'a': array([100, 200,   2,   3,   4,   5,   6,   7,   8,   9]), 'b': array([ 0.,  1.,  2.,  3.,  4.,  5.,  6.,  7.,  8.,  9.])}
>>> df2
     a  b
0  100  0
1    1  1
2    2  2
3    3  3
4    4  4
5    5  5
6    6  6
7    7  7
8    8  8
9    9  9

如果我只是创建数据框,那么更改为a会反映在df中(反之亦然)。

在提供字典时,有没有办法使这项工作?

2 个答案:

答案 0 :(得分:3)

无法“共享”字典并根据字典更改进行帧更新。 copy参数与dict无关,数据总是被复制,因为它被转换为ndarray。

然而,有一种方法可以有限的方式获得这种类型的动态行为。

In [9]: arr = np.array(np.random.rand(5,2))

In [10]: df = DataFrame(arr)

In [11]: arr[0,0] = 0

In [12]: df
Out[12]: 
          0         1
0  0.000000  0.192056
1  0.847185  0.609028
2  0.833997  0.422521
3  0.937638  0.711856
4  0.047569  0.033282

因此传递的ndarray在构造时将成为底层numpy数组的视图。根据您对DataFrame的操作方式,您可以触发副本(例如,如果您指定新列,或更改列dtype)。这也适用于单个dtyped框架。

答案 1 :(得分:0)

可以在不复制数据的情况下初始化数据帧。要了解如何,您需要了解BlockManager,它是DataFrame使用的基础数据结构。它尝试将相同dtype的数据组合在一起并将其内存保存在单个块中。如果数据已作为单个块提供,例如您从矩阵初始化:

        a = np.zeros((100,20))
        a.flags['WRITEABLE'] = False
        df = pd.DataFrame(a, copy=False)
        assert_read_only(df[df.columns[0]].iloc)

...然后DataFrame 可能通常只引用ndarray。

显然,如果您从多个阵列开始或具有异构类型,这将无法运行。 在这种情况下,您可以monkey patch the BlockManager强制它不要合并不同类型的数据。