熊猫:如何分组和总和MultiIndex

时间:2015-06-23 18:36:34

标签: python pandas multi-index

我有一个带有分类属性的数据框,其中索引包含重复项。我试图找到索引和属性的每个可能组合的总和。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()
print(y)
print(y.groupby(level=[0,1]).sum())

输出

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64
11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

堆栈和按总和的组是一样的。

但是,我期待的是

11  x    2
11  y    6
12  x    6
12  y    10

编辑2:

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

输出:

11  x    1
    y    3
    x    1
    y    3
12  x    3
    y    5
    x    3
    y    5
dtype: int64

EDIT3: 已记录一个问题 https://github.com/pydata/pandas/issues/10417

3 个答案:

答案 0 :(得分:2)

使用Pandas 0.15.2,你只需要再复制一次groupby

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack().groupby(level=[0,1]).sum()
print(y.groupby(level=[0,1]).sum())

打印

11  x     2
    y     6
12  x     6
    y    10

答案 1 :(得分:2)

使用pandas 0.16.2和Python 3,我能够通过以下方式获得正确的结果:

x.stack().reset_index().groupby(['level_0','level_1']).sum()

产生:

                    0
level_0 level_1 
     11       x     2
              y     6
     12       x     6
              y     10

然后,您可以使用reindex()columns将索引和列名称更改为更合适的名称。

根据我的研究,我同意原始方法的失败似乎是一个错误。我认为错误发生在Series上,这是x.stack()产生的。我的解决方法是通过SeriesDataFrame变为reset_index()。在这种情况下,DataFrame不再有MultiIndex - 我只是对标记列进行分组。

要确保对DataFrame MultiIndex进行分组和求和,您可以尝试这样做以获得相同的正确输出:

x.stack().reset_index().set_index(['level_0','level_1'],drop=True).\
groupby(level=[0,1]).sum()

在解决错误之前,这些变通办法中的任何一个都应该处理好事情。

我想知道这个错误是否与MultiIndexSeries上创建的DataFrame个实例有关。例如:

In[1]: obj = x.stack()
       type(obj)
Out[1]: pandas.core.series.Series

In[2]: obj.index
Out[2]: MultiIndex(levels=[[11, 11, 12, 12], ['x', 'y']],
           labels=[[0, 0, 1, 1, 2, 2, 3, 3], [0, 1, 0, 1, 0, 1, 0, 1]])

VS

In[3]: obj = x.stack().reset_index().set_index(['level_0','level_1'],drop=True)
       type(obj)
Out[3]: pandas.core.frame.DataFrame

In[4]: obj.index
Out[4]: MultiIndex(levels=[[11, 12], ['x', 'y']],
           labels=[[0, 0, 0, 0, 1, 1, 1, 1], [0, 1, 0, 1, 0, 1, 0, 1]],
           names=['level_0', 'level_1'])

请注意MultiIndex上的DataFrame如何更准确地描述级别。

答案 2 :(得分:2)

sum允许您指定要在MultiIndex数据框中求和的级别。

x = pd.DataFrame({'x':[1,1,3,3],'y':[3,3,5,5]},index=[11,11,12,12])
y = x.stack()

y.sum(level=[0,1])

11  x     2
    y     6
12  x     6
    y    10