pandas dataframe view vs copy,我怎么说?

时间:2014-12-08 21:38:00

标签: python pandas

之间的区别是什么:

pandas df.loc[:,('col_a','col_b')]

df.loc[:,['col_a','col_b']]

下面的链接并没有提到后者,尽管它有效。拉两个视图?首先是拉视图而第二个是拉副本吗?喜欢学习熊猫。

http://pandas.pydata.org/pandas-docs/stable/indexing.html#indexing-view-versus-copy

由于

1 个答案:

答案 0 :(得分:23)

如果您的DataFrame有一个简单的列索引,那么没有区别。 例如,

In [8]: df = pd.DataFrame(np.arange(12).reshape(4,3), columns=list('ABC'))

In [9]: df.loc[:, ['A','B']]
Out[9]: 
   A   B
0  0   1
1  3   4
2  6   7
3  9  10

In [10]: df.loc[:, ('A','B')]
Out[10]: 
   A   B
0  0   1
1  3   4
2  6   7
3  9  10

但是如果DataFrame有MultiIndex,那么可能会有很大的不同:

df = pd.DataFrame(np.random.randint(10, size=(5,4)),
                  columns=pd.MultiIndex.from_arrays([['foo']*2+['bar']*2,
                                                     list('ABAB')]),
                  index=pd.MultiIndex.from_arrays([['baz']*2+['qux']*3,
                                                   list('CDCDC')]))

#       foo    bar   
#         A  B   A  B
# baz C   7  9   9  9
#     D   7  5   5  4
# qux C   5  0   5  1
#     D   1  7   7  4
#     C   6  4   3  5

In [27]: df.loc[:, ('foo','B')]
Out[27]: 
baz  C    9
     D    5
qux  C    0
     D    7
     C    4
Name: (foo, B), dtype: int64

In [28]: df.loc[:, ['foo','B']]
KeyError: 'MultiIndex Slicing requires the index to be fully lexsorted tuple len (1), lexsort depth (0)'

KeyError表示MultiIndex必须是lexsorted。如果我们这样做,那么我们仍会得到不同的结果:

In [29]: df.sortlevel(axis=1).loc[:, ('foo','B')]
Out[29]: 
baz  C    9
     D    5
qux  C    0
     D    7
     C    4
Name: (foo, B), dtype: int64

In [30]: df.sortlevel(axis=1).loc[:, ['foo','B']]
Out[30]: 
      foo   
        A  B
baz C   7  9
    D   7  5
qux C   5  0
    D   1  7
    C   6  4

为什么? df.sortlevel(axis=1).loc[:, ('foo','B')]正在选择第一列级别等于foo的列,第二列级别为B

相反,df.sortlevel(axis=1).loc[:, ['foo','B']]正在选择第一列级别为fooB的列。对于第一列级别,没有B列,但有两列foo列。

我认为Pandas的操作原理是,如果你使用df.loc[...] 表达式,您应该假设df.loc可能正在返回副本或视图。 Pandas文档没有指定您应该期望的任何规则。 但是,如果您使用

形式的作业
df.loc[...] = value

然后你可以信任熊猫改变df本身。

文档警告视图和副本之间的区别的原因是您了解使用表单链分配的缺陷

df.loc[...][...] = value

在这里,Pandas首先评估df.loc[...],这可能是视图或副本。现在,如果是副本,那么

df.loc[...][...] = value

正在更改df某些部分的副本,因此对df本身没有影响。为了增加对伤害的侮辱,对副本的影响也会丢失,因为没有对副本的引用,因此在赋值语句完成后无法访问副本,并且(至少在CPython中)它很快就会出现收集垃圾。


我不知道用于确定df.loc[...]是否将返回视图或副本的实用的傻瓜先验方法。

然而,有一些经验法则可能有助于指导你的直觉(但请注意,我们在这里讨论的是实施细节,所以不能保证Pandas将来需要这样做):

  • 如果得到的NDFrame不能表示为基本切片 基础NumPy数组,那么它可能是一个副本。因此,选择任意行或列将导致复制。选择的顺序行和/或顺序列(可以表示为切片)可以返回视图。
  • 如果生成的NDFrame包含不同dtypes的列,则df.loc 将再次发回一份副本。

但是,有一种简单的方法可以确定x = df.loc[..]是否为视图 a postiori :只需查看更改x中的值是否会影响df。如果是,则为视图,如果不是,x是副本。