pandas - 使用指定的开始日期,结束日期和粒度重新采样数据帧

时间:2017-05-05 13:38:45

标签: python pandas

我想使用开始日期,结束日期和“粒度”重新采样日期时间索引数据框

说我有这个数据帧:

                   value
00:00, 01/05/2017    2
12:00, 01/05/2017    4
00:00, 02/05/2017    6
12:00, 02/05/2017    8
00:00, 03/05/2017   10
12:00, 03/05/2017   12

我想重新取样,从06:00, 01/05/2017转到 18:00 02/05/2017的“粒度”为12小时(为简单起见,这与原始版本相同,但并非必须如此)。我想要的结果是:

                   value
06:00, 01/05/2017    3
18:00, 01/05/2017    5
06:00, 02/05/2017    7
18:00, 02/05/2017    9

注意,这些值是它们重叠的值的平均值(例如3 =平均值(2,4))

我不确定该怎么做。

我的第一次尝试是:

def resample(df: DataFrame, start: datetime, end: datetime, granularity: timedelta) -> DataFrame:
    result = df.resample(granularity).mean()
    result = result[result.index <= end]
    result = result[result.index >= start]
    return result

这会适当地修剪数据框并确保正确的粒度,但不会将结果与开始日期对齐,结果是:

                   value
12:00, 01/05/2017    4
00:00, 02/05/2017    6
12:00, 02/05/2017    8

我的第二次尝试使用base参数来移动数据:

def resample(df: DataFrame, start: datetime, end: datetime, desired_granularity: timedelta) -> DataFrame:
    data_before_start = df[df.index <= start]
    # Get the last index value before our start date
    last_date_before_start = data_before_start.last_valid_index()
    current_granularity_secs = seconds_between_measurements(df)
    rule = str(int(desired_granularity.total_seconds())) + 'S'
    base = current_granularity_secs - (start - last_date_before_start).total_seconds()
    result = df.resample(rule, base=base).mean()
    result = result[result.index < end]
    result = result[result.index >= start]
    return result

这给了我:

                   value
06:00, 01/05/2017    4
18:00, 01/05/2017    6
06:00, 02/05/2017    8
18:00, 02/05/2017    10

这具有正确的指数,但是从下一次测量中回填这些值,而不是从之前和之后的测量值中平均得出。

有没有人对如何实现我想要的东西有任何想法?

提前感谢您的帮助,如果我遗漏了任何重要细节,请告诉我。)

修改 如果获得平均值是使得这非常棘手的一点,我可以在给定时间之前使用该值,类似于pad()。我当前的“最佳”解决方案为我提供了后续值,例如backfill()

1 个答案:

答案 0 :(得分:1)

首先将end_start和end_date列定义为datetime。 然后,您可以使用.resample两次:

  • 在带正向填充的df.start_date
  • 在带有向后填充的df.end_date上

然后:

  • 将行保持在start_date&lt; end_date
  • 级联
  • 在每一行上应用更新start_date和end_date的函数:

这里是代码:

df[["start_date","end_date"]] = df[["start_date","end_date"]].astype(np.datetime64)
df1 = df.set_index("start_date").resample(freq).pad().reset_index()
df2 = df.set_index("end_date").resample(freq).bfill().reset_index()
df3 = pd.concat([df1, df2], ignore_index=True)

def function(x, df1):
    if x.name < df1.shape[0]:
        x.end_date = x.start_date + pd.Timedelta(freq)
    else:
        x.start_date = x.end_date - pd.Timedelta(freq)
    return x

df3[ df3.start_date < df3.end_date ].apply(lambda x: function(x, df1), axis=1)
  

Pandas文档说明应该可以直接重新取样

     

df.resample(freq, on='start_date')