我正在尝试将每日频率数据帧转换为分钟数据,并且在上一篇文章中建议使用下面的ffil方法,但它似乎不适用于仅包含两行的数据帧({{3} }。
因此下面的数据框应该被转换。
import pandas as pd
dict = [
{'ticker':'jpm','date': '2016-11-28','returns': 0.2},
{ 'ticker':'ge','date': '2016-11-28','returns': 0.2},
{'ticker':'fb', 'date': '2016-11-28','returns': 0.2},
{'ticker':'aapl', 'date': '2016-11-28','returns': 0.2},
{'ticker':'msft','date': '2016-11-28','returns': 0.2},
{'ticker':'amzn','date': '2016-11-28','returns': 0.2},
{'ticker':'jpm','date': '2016-11-29','returns': 0.2},
{'ticker':'ge', 'date': '2016-11-29','returns': 0.2},
{'ticker':'fb','date': '2016-11-29','returns': 0.2},
{'ticker':'aapl','date': '2016-11-29','returns': 0.2},
{'ticker':'msft','date': '2016-11-29','returns': 0.2},
{'ticker':'amzn','date': '2016-11-29','returns': 0.2}
]
df = pd.DataFrame(dict)
df['date'] = pd.to_datetime(df['date'])
df=df.set_index(['date','ticker'], drop=True)
这适用于整个数据框:
df_min = df.unstack().asfreq('Min', method='ffill').between_time('8:30','16:00').stack()
但是当我使用较小的数据框时,由于某种原因它会返回一个空的数据框:
df2=df.iloc[0:2,:]
df2_min = df2.unstack().asfreq('Min', method='ffill').between_time('8:30','16:00').stack()
有人对这种奇怪的行为有解释吗?
edt:我注意到代码仅在数据框至少有7行时才有效。
答案 0 :(得分:1)
如果只有2行输入DataFrame,则在经过unstack
整形后,获得一行DataFrame
,而大熊猫无法创建连续分钟DataFrame
,因为只有DatetimeIndex
的一个值
可能的解决方案是在改型后的第二天添加,填充最后的上一行数据,应用解决方案,并在最后的步骤中按iloc
的位置删除最后一个帮助行:
df2=df.iloc[0:2]
print (df2)
returns
date ticker
2016-11-28 jpm 0.2
ge 0.2
df3 = df2.unstack()
print (df3)
ticker jpm ge
date
2016-11-28 0.2 0.2
df3.loc[df3.index.max() + pd.Timedelta(1, unit='d')] = df3.iloc[-1]
print (df3)
returns
ticker jpm ge
date
2016-11-28 0.2 0.2
2016-11-29 0.2 0.2 <- helper row
df_min = df3.asfreq('Min', method='ffill')
print (df_min.tail())
returns
ticker jpm ge
date
2016-11-28 23:56:00 0.2 0.2
2016-11-28 23:57:00 0.2 0.2
2016-11-28 23:58:00 0.2 0.2
2016-11-28 23:59:00 0.2 0.2
2016-11-29 00:00:00 0.2 0.2 <- helper row
df_min = df_min.iloc[:-1].between_time('8:30','16:00').stack()
#print (df_min)