使用多索引列展平DataFrame

时间:2014-12-20 04:04:06

标签: python pandas pivot-table

我想将从数据透视表派生的Pandas DataFrame转换为行表示,如下所示。

这就是我所在的地方:

import pandas as pd
import numpy as np
df = pd.DataFrame({
    'goods': ['a', 'a', 'b', 'b', 'b'],
    'stock': [5, 10, 30, 40, 10],
    'category': ['c1', 'c2', 'c1', 'c2', 'c1'],
    'date': pd.to_datetime(['2014-01-01', '2014-02-01', '2014-01-06', '2014-02-09', '2014-03-09'])
})
# we don't care about year in this example
df['month'] = df['date'].map(lambda x: x.month)
piv = df.pivot_table(["stock"], "month", ["goods", "category"], aggfunc="sum")
piv = piv.reindex(np.arange(piv.index[0], piv.index[-1] + 1))
piv = piv.ffill(axis=0)
piv = piv.fillna(0)
print piv

导致

stock            
goods        a       b    
category    c1  c2  c1  c2
month                     
1            5   0  30   0
2            5  10  30  40
3            5  10  10  40

这就是我想去的地方。

goods category month stock
    a       c1     1     5
    a       c1     2     0
    a       c1     3     0
    a       c2     1     0
    a       c2     2    10
    a       c2     3     0
    b       c1     1    30
    b       c1     2     0
    b       c1     3    10
    b       c2     1     0
    b       c2     2    40
    b       c2     3     0

Previously,我用了

piv = piv.stack()
piv = piv.reset_index()
print piv

去除多索引,但这导致了这一点,因为我现在在两列(["goods", "category"])上进行转换:

      month category stock    
goods                    a   b
0         1       c1     5  30
1         1       c2     0   0
2         2       c1     5  30
3         2       c2    10  40
4         3       c1     5  10
5         3       c2    10  40

有谁知道如何摆脱列中的多索引并将结果导入到示例格式的DataFrame中?

3 个答案:

答案 0 :(得分:6)

>>> piv.unstack().reset_index().drop('level_0', axis=1)
   goods category  month   0
0      a       c1      1   5
1      a       c1      2   5
2      a       c1      3   5
3      a       c2      1   0
4      a       c2      2  10
5      a       c2      3  10
6      b       c1      1  30
7      b       c1      2  30
8      b       c1      3  10
9      b       c2      1   0
10     b       c2      2  40
11     b       c2      3  40

然后您只需将最后一列名称从0更改为stock

答案 1 :(得分:4)

在我看来melt (aka unpivot)非常接近你想要做的事情:

In [11]: pd.melt(piv)
Out[11]:
      NaN goods category  value
0   stock     a       c1      5
1   stock     a       c1      5
2   stock     a       c1      5
3   stock     a       c2      0
4   stock     a       c2     10
5   stock     a       c2     10
6   stock     b       c1     30
7   stock     b       c1     30
8   stock     b       c1     10
9   stock     b       c2      0
10  stock     b       c2     40
11  stock     b       c2     40

有一个流氓列(股票),这里显示列标题在piv中是常量。如果我们首先放弃它,熔化工作OOTB:

In [12]: piv.columns = piv.columns.droplevel(0)

In [13]: pd.melt(piv)
Out[13]:
   goods category  value
0      a       c1      5
1      a       c1      5
2      a       c1      5
3      a       c2      0
4      a       c2     10
5      a       c2     10
6      b       c1     30
7      b       c1     30
8      b       c1     10
9      b       c2      0
10     b       c2     40
11     b       c2     40

编辑:以上实际上删除了索引,您需要将其设为reset_index列:

In [21]: pd.melt(piv.reset_index(), id_vars=['month'], value_name='stock')
Out[21]:
    month goods category  stock
0       1     a       c1      5
1       2     a       c1      5
2       3     a       c1      5
3       1     a       c2      0
4       2     a       c2     10
5       3     a       c2     10
6       1     b       c1     30
7       2     b       c1     30
8       3     b       c1     10
9       1     b       c2      0
10      2     b       c2     40
11      3     b       c2     40

答案 2 :(得分:0)

我知道这个问题已经回答了,但是对于我的数据集多索引列问题,提供的解决方案效率不高。因此,我在这里发布了另一种使用pandas取消多索引列的解决方案。

这是我遇到的问题:

enter image description here

可以看到,数据框由3个多索引和两个级别的多索引列组成。

所需的数据框格式为:

enter image description here

当我尝试上面给出的选项时,pd.melt函数不允许var_name属性中包含多个列。因此,每次尝试合并时,最终都会丢失表中的某些属性。

我发现的解决方案是在数据框上应用双重堆叠功能。

在编码之前,值得注意的是,我的未透视表列所需的var_name是“ Populacao residente em domicilios speciales ocupados”(请参见下面的代码)。因此,对于我所有的值条目,都应将它们堆叠在此新创建的var_name新列中。

以下是代码段:

import pandas as pd

# reading my table

df = pd.read_excel(r'my_table.xls', sep=',', header=[2,3], encoding='latin3', 
               index_col=[0,1,2], na_values=['-', ' ', '*'], squeeze=True).fillna(0)

df.index.names = ['COD_MUNIC_7', 'NOME_MUN', 'TIPO']
df.columns.names = ['sexo', 'faixa_etaria']


df.head()


# making the stacking:

df = pd.DataFrame(pd.Series(df.stack(level=0).stack(), name='Populacao residente em domicilios particulares ocupados')).reset_index()


df.head()

我发现的另一种解决方案是先在数据框上应用堆栈函数,然后应用熔体。

这是替代代码:

df = df.stack('faixa_etaria').reset_index().melt(id_vars=['COD_MUNIC_7', 'NOME_MUN','TIPO', 'faixa_etaria'],
                  value_vars=['Homens', 'Mulheres'],
                  value_name='Populacao residente em domicilios particulares ocupados', 
                  var_name='sexo')

df.head()

真诚的,

Philipe Riskalla Leal