我目前面临的问题是使用pandas DataFrame并有效地获取每条记录并按以下方式将其分解为多条记录:
输入:
In [16]: pd.DataFrame({'Name': 'Person1', 'State': 'Indiana', 'Money1': 100.42, 'Money2':54.54, 'Money3': 23.45}, index=[1])
Out[16]:
Money1 Money2 Money3 Name State
1 100.42 54.54 23.45 Person1 Indiana
输出:
Money1 Money2 Money3 Name State
1 100.42 np.nan np.nan Person1 Indiana
2 np.nan 54.54 np.nan Person1 Indiana
3 np.nan np.nan 23.45 Person1 Indiana
基本上,问题是将原始记录拆分为x记录,其中x是要拆分的传入列的列表(在本例中为'Money1','Money2','Money3'。我尝试通过创建这样做DataFrames和concat'ing他们,但这是非常缓慢和内存效率低。
EDIT1:
请注意,即使您的一个静态列(转换为多索引的列)充满NaN,答案也不起作用。这是熊猫中报告的错误: https://github.com/pydata/pandas/issues/6322
要解决此问题,请使用fillna
或replace
填充完全由NaN
组成的列,例如空字符串''
,然后在此过程之后,把NaN
放回去。
答案 0 :(得分:2)
这适用于具有任意列数的数据框。
df = pd.DataFrame({'Name': ['Person1', 'Person2'],
'State': ['Indiana', 'NY'],
'Money1': [100.42, 200],
'Money2': [54.54, 25],
'Money3': [23.45, 10]})
index_cols = ['Name', 'State']
cols = [c for c in df if c not in index_cols]
df2 = df.set_index(index_cols).stack().reset_index(level=2, drop=True).to_frame('Value')
df2 = pd.concat([pd.Series([v if i % len(cols) == n else np.nan
for i, v in enumerate(df2.Value)], name=col)
for n, col in enumerate(cols)], axis=1).set_index(df2.index)
>>> df2.reset_index()
Name State Money1 Money2 Money3
0 Person1 Indiana 1 NaN NaN
1 Person1 Indiana NaN 55 NaN
2 Person1 Indiana NaN NaN 23
3 Person2 NY 2 NaN NaN
4 Person2 NY NaN 25 NaN
5 Person2 NY NaN NaN 10