Unmelt Pandas DataFrame

时间:2015-07-09 01:44:20

标签: python pandas

我有一个带有两个id变量的pandas数据帧:

df = pd.DataFrame({'id': [1,1,1,2,2,3], 
               'num': [10,10,12,13,14,15],
               'q': ['a', 'b', 'd', 'a', 'b', 'z'],
               'v': [2,4,6,8,10,12]})

   id  num  q   v
0   1   10  a   2
1   1   10  b   4
2   1   12  d   6
3   2   13  a   8
4   2   14  b  10
5   3   15  z  12

我可以使用:

来旋转表格
df.pivot('id','q','v')

结束了接近的事情:

q    a   b   d   z
id                
1    2   4   6 NaN
2    8  10 NaN NaN
3  NaN NaN NaN  12

然而,我真正想要的是(原始的未融合形式):

id   num   a   b   d   z               
1    10   2   4 NaN NaN
1    12 NaN NaN   6 NaN  
2    13   8 NaN NaN NaN
2    14 NaN  10 NaN NaN
3    15 NaN NaN NaN  12

换句话说:

  1. 'id'和'num'我的索引(通常,我只看到'id'或'num'作为索引,但我需要两个,因为我正在尝试检索原始的未融合形式)
  2. 'q'是我的专栏
  3. 'v'是表格中的值
  4. 更新

    我从Wes McKinney's blog找到了 close 解决方案:

    df.pivot_table(index=['id','num'], columns='q')
    
             v            
    q        a   b   d   z
    id num                
    1  10    2   4 NaN NaN
       12  NaN NaN   6 NaN
    2  13    8 NaN NaN NaN
       14  NaN  10 NaN NaN
    3  15  NaN NaN NaN  12
    

    但是,格式与我上面的想法并不完全相同。

6 个答案:

答案 0 :(得分:14)

你真的很亲密。只需将列索引重命名为“无”,即可获得所需内容。

df2 = df.pivot_table(index=['id','num'], columns='q')
df2.columns = df2.columns.droplevel().rename(None)
df2.reset_index().fillna("null").to_csv("test.csv", sep="\t", index=None)

注意表示' v'默认情况下,列应为数字,以便可以聚合。否则,熊猫将错误地用:

DataError: No numeric types to aggregate

To resolve this,您可以使用自定义lambda函数指定自己的聚合函数:

df2 = df.pivot_table(index=['id','num'], columns='q', aggfunc= lambda x: x)

答案 1 :(得分:10)

您可以使用set_indexunstack

In [18]: df.set_index(['id', 'num', 'q'])['v'].unstack().reset_index()
Out[18]:
q  id  num    a     b    d     z
0   1   10  2.0   4.0  NaN   NaN
1   1   12  NaN   NaN  6.0   NaN
2   2   13  8.0   NaN  NaN   NaN
3   2   14  NaN  10.0  NaN   NaN
4   3   15  NaN   NaN  NaN  12.0

答案 2 :(得分:2)

你可以删除名字q。

df1.columns=df1.columns.tolist()

零回答+删除q =

df1 = df.set_index(['id', 'num', 'q'])['v'].unstack().reset_index()
df1.columns=df1.columns.tolist()

   id  num    a     b    d     z
0   1   10  2.0   4.0  NaN   NaN
1   1   12  NaN   NaN  6.0   NaN
2   2   13  8.0   NaN  NaN   NaN
3   2   14  NaN  10.0  NaN   NaN
4   3   15  NaN   NaN  NaN  12.0

答案 3 :(得分:1)

提出了一个紧密的解决方案

df2 = df.pivot_table(index=['id','num'], columns='q')
df2.columns = df2.columns.droplevel()
df2.reset_index().fillna("null").to_csv("test.csv", sep="\t", index=None)

仍无法弄清楚如何从数据框中删除'q'

答案 4 :(得分:1)

这可能很好用:

  1. 枢轴
  2. df2 = (df.pivot_table(index=['id', 'num'], columns='q', values='v')).reset_index())

    1. 将第一级列名称与第二个
    2. 结合使用

      df2.columns =[s1 + str(s2) for (s1,s2) in df2.columns.tolist()]

答案 5 :(得分:0)

可以通过三个步骤完成:

#1: Prepare auxilary column 'id_num': 
df['id_num'] = df[['id', 'num']].apply(tuple, axis=1)
df = df.drop(columns=['id', 'num'])

#2: 'pivot' is almost an inverse of melt:
df, df.columns.name = df.pivot(index='id_num', columns='q', values='v').reset_index(), ''

#3: Bring back 'id' and 'num' columns:
df['id'], df['num'] = zip(*df['id_num'])
df = df.drop(columns=['id_num'])

这是结果,但是列的顺序不同:

     a     b    d     z  id  num
0  2.0   4.0  NaN   NaN   1   10
1  NaN   NaN  6.0   NaN   1   12
2  8.0   NaN  NaN   NaN   2   13
3  NaN  10.0  NaN   NaN   2   14
4  NaN   NaN  NaN  12.0   3   15

或者以适当的顺序:

def multiindex_pivot(df, columns=None, values=None):
    #inspired by: https://github.com/pandas-dev/pandas/issues/23955
    names = list(df.index.names)
    df = df.reset_index()
    list_index = df[names].values
    tuples_index = [tuple(i) for i in list_index] # hashable
    df = df.assign(tuples_index=tuples_index)
    df = df.pivot(index="tuples_index", columns=columns, values=values)
    tuples_index = df.index  # reduced
    index = pd.MultiIndex.from_tuples(tuples_index, names=names)
    df.index = index
    df = df.reset_index() #me
    df.columns.name = ''  #me
    return df

df = df.set_index(['id', 'num'])
df = multiindex_pivot(df, columns='q', values='v')