在Pandas DataFrame中转置列的子集,同时使用其他列作为分组变量?

时间:2016-09-20 18:19:24

标签: python performance pandas optimization dataframe

假设我有一个Pandas数据帧(已经是数据帧格式):

x = [[1,2,8,7,9],[1,3,5.6,4.5,4],[2,3,4.5,5,5]]
df = pd.DataFrame(x, columns=['id1','id2','val1','val2','val3'])

id1 id2 val1 val2 val3
1   2   8.0  7.0  9
1   3   5.6  4.5  4
2   3   4.5  5.0  5

我想在一列中val1val2val2id1id2作为分组变量。我可以使用这个极其错综复杂的代码:

dfT = df.iloc[:,2::].T.reset_index(drop=True)
n_points = dfT.shape[0]
final = pd.DataFrame()
for i in range(0, df.shape[0]):
    data = np.asarray([[df.ix[i,'id1']]*n_points, 
                      [df.ix[i,'id2']]*n_points,
                      dfT.ix[:,i].values]).T
    temp = pd.DataFrame(data, columns=['id1','id2','val'])
    final = pd.concat([final, temp], axis=0)

让我的数据帧格式正确:

    id1 id2 val
0   1.0 2.0 8.0
1   1.0 2.0 7.0
2   1.0 2.0 9.0
0   1.0 3.0 5.6
1   1.0 3.0 4.5
2   1.0 3.0 4.0
0   2.0 3.0 4.5
1   2.0 3.0 5.0
2   2.0 3.0 5.0

但必须有一种更有效的方法,因为在大型数据框架上这需要太长时间。

建议?

2 个答案:

答案 0 :(得分:3)

您可以将meltdropvariable

一起使用
print (pd.melt(df, id_vars=['id1','id2'], value_name='val')
         .drop('variable', axis=1))

   id1  id2  val
0    1    2  8.0
1    1    3  5.6
2    2    3  4.5
3    1    2  7.0
4    1    3  4.5
5    2    3  5.0
6    1    2  9.0
7    1    3  4.0
8    2    3  5.0

set_indexstack的另一种解决方案:

print (df.set_index(['id1','id2'])
         .stack()
         .reset_index(level=2, drop=True)
         .reset_index(name='val'))

   id1  id2  val
0    1    2  8.0
1    1    2  7.0
2    1    2  9.0
3    1    3  5.6
4    1    3  4.5
5    1    3  4.0
6    2    3  4.5
7    2    3  5.0
8    2    3  5.0

答案 1 :(得分:2)

甚至可以使用lreshape进行更简单的处理(尽管尚未记录):

pd.lreshape(df, {'val': ['val1', 'val2', 'val3']}).sort_values(['id1', 'id2'])

Image