熊猫:有效地将一行分成多行

时间:2016-05-12 23:06:43

标签: python numpy pandas

我目前面临的问题是使用pandas DataFrame并有效地获取每条记录并按以下方式将其分解为多条记录:

输入:

In [16]: pd.DataFrame({'Name': 'Person1', 'State': 'Indiana', 'Money1': 100.42, 'Money2':54.54, 'Money3': 23.45}, index=[1])
Out[16]: 
   Money1  Money2  Money3  Name     State
1  100.42  54.54   23.45   Person1  Indiana

输出:

   Money1  Money2  Money3  Name     State
1  100.42  np.nan  np.nan  Person1  Indiana 
2  np.nan  54.54   np.nan  Person1  Indiana      
3  np.nan  np.nan  23.45   Person1  Indiana

基本上,问题是将原始记录拆分为x记录,其中x是要拆分的传入列的列表(在本例中为'Money1','Money2','Money3'。我尝试通过创建这样做DataFrames和concat'ing他们,但这是非常缓慢和内存效率低。

EDIT1:

请注意,即使您的一个静态列(转换为多索引的列)充满NaN,答案也不起作用。这是熊猫中报告的错误: https://github.com/pydata/pandas/issues/6322

要解决此问题,请使用fillnareplace填充完全由NaN组成的列,例如空字符串'',然后在此过程之后,把NaN放回去。

1 个答案:

答案 0 :(得分:2)

这适用于具有任意列数的数据框。

df = pd.DataFrame({'Name': ['Person1', 'Person2'], 
                   'State': ['Indiana', 'NY'], 
                   'Money1': [100.42, 200], 
                   'Money2': [54.54, 25], 
                   'Money3': [23.45, 10]})

index_cols = ['Name', 'State']
cols = [c for c in df if c not in index_cols]

df2 = df.set_index(index_cols).stack().reset_index(level=2, drop=True).to_frame('Value')

df2 = pd.concat([pd.Series([v if i % len(cols) == n else np.nan 
                            for i, v in enumerate(df2.Value)], name=col) 
                 for n, col in enumerate(cols)], axis=1).set_index(df2.index)

>>> df2.reset_index()
      Name    State  Money1  Money2  Money3
0  Person1  Indiana       1     NaN     NaN
1  Person1  Indiana     NaN      55     NaN
2  Person1  Indiana     NaN     NaN      23
3  Person2       NY       2     NaN     NaN
4  Person2       NY     NaN      25     NaN
5  Person2       NY     NaN     NaN      10