pandas resample dropna不适用于所有列

时间:2019-02-15 03:04:40

标签: python pandas dataframe resampling

重新采样DataFrame时,dropna()似乎按列工作,这会使测量不准确。

有关以下数据:

In [1]: np.random.seed(117)

In [2]: data = pd.DataFrame(
   ...:     np.concatenate((np.random.rand(17), np.full(3, np.nan))).reshape(2, 10).transpose(),
   ...:     index=pd.bdate_range(start='2019-02-04', end='2019-02-15'),
   ...:     columns=['t1', 't2'],
   ...: ).mul(.01).add(1).cumprod().mul(100)

In [3]: data
Out[3]:
               t1     t2
2019-02-04 100.45 100.68
2019-02-05 100.75 101.65
2019-02-06 100.98 102.48
2019-02-07 101.88 103.40
2019-02-08 102.07 104.17
2019-02-11 103.02 104.93
2019-02-12 103.07 105.09
2019-02-13 103.85    NaN
2019-02-14 103.94    NaN
2019-02-15 104.09    NaN

如果我们对每周累积回报的数据进行重新采样,则希望在第二个期间的2019-02-13之后删除日期-因为列t2在该日期之后没有数据。但是t1的累积收益基于整个1.03期间:

In [4]: data.resample('7D').apply(lambda vv: vv.dropna().pct_change().sum()).mul(100)
Out[4]:
             t1   t2
2019-02-04 1.60 3.43
2019-02-11 1.03 0.15

问题的原因是-dropna()分别应用于每个列。这会在重采样结果中引入无效的数据点。是否有一种仅在2019-02-112019-02-12期间使用数据的Python方法,即所需的输出应为:

In [5]: ???
Out[5]:
             t1   t2
2019-02-04 1.60 3.43
2019-02-11 0.05 0.15

1 个答案:

答案 0 :(得分:1)

您可以在重新采样数据之前删除nan

data.loc[data.isna().sum(axis=1) == 0, :].resample('7D').apply(lambda vv: vv.pct_change().sum()).mul(100)

结果如下:

                  t1        t2
date                          
2019-02-04  1.604703  3.422393
2019-02-11  0.048534  0.152483