按小时分组,同时考虑到夏令时

时间:2018-12-28 15:31:23

标签: python datetime pandas-groupby dst

我正在查看一家每天24小时工作的工厂的班次数据。我想将每个班次更改的数据分组为6:00和18:00。到目前为止,我一直在尝试:

Data_Frame.groupby([pd.Grouper(freq='12H')]).count() 

但是我已经意识到,由于freq设置为12H,所以它将始终需要12个小时的时间,包括夏令时。

不幸的是,即使时钟改变,也始终是6:00和18:00。这实际上意味着一年中有一个班次长达11个小时,而另一班则有13个小时之久,因此在年中该组的班次减少了1个小时。

我认为这是一件非常基本的事情(夏令时),应该有某种方式告诉熊猫它需要考虑夏令时。

我曾尝试将其从UTC更改为欧洲/伦敦,但是仍然需要12个小时。

非常感谢

编辑:

我发现这样做的唯一方法是,在使用groupby之前,将数据分成3个(在第一个小时更改之前,小时更改期间,第二个小时更改之前)分别使用groupby然后将它们放回去,但这是烦人而又乏味的事情,因此,比这更好的事情将受到极大的赞赏。

1 个答案:

答案 0 :(得分:0)

时区和 10分钟时区感知的时间序列跨越 spring 的dst变化:

ts_hrly = pd.date_range('03-10-2018', '3-13-2018', freq='H', tz='US/Eastern')
ts_10m = pd.date_range('03-10-2018', '3-13-2018', freq='10T', tz='US/Eastern')

使用每小时数据

ts = ts_hrly
df = pd.DataFrame({'tstamp':ts,'period':range(len(ts))})

dst过渡看起来像这样:

>>> df[18:23]
    period                    tstamp
18      18 2018-03-11 00:00:00-05:00
19      19 2018-03-11 01:00:00-05:00
20      20 2018-03-11 03:00:00-04:00
21      21 2018-03-11 04:00:00-04:00
22      22 2018-03-11 05:00:00-04:00
>>>

为了将在06:00和18:00边界的十二小时增量分组,我将每个观察值分配给一个班次编号,然后按班次编号分组

我的数据方便地从班次变化开始,因此计算自第一次班次变化以来经过的时间:

nanosec = df['tstamp'].values - df.iloc[0,1].value

查找班次更改并使用np.cumsum()分配班次编号

shift_change = nanosec.astype(np.int64) % (3600 * 1e9 * 12)  == 0
df['shift_nbr'] = shift_change.cumsum()
gb = df.groupby(df['shift_nbr'])
for k,g in gb:
    print(f'{k} has {len(g)} items')

>>>
1 has 12 items
2 has 12 items
3 has 12 items
4 has 12 items
5 has 12 items
6 has 12 items

我还没有找到一种方法来补偿班次开始时的数据。

如果您希望受dst更改影响的班次组包含11或13个项目,请将时区感知序列更改为时区朴素序列

df2 = pd.DataFrame({'tstamp':pd.to_datetime(ts.strftime('%m-%d-%y %H:%M')),'period':range(len(ts))})

使用相同的过程来分配和按班次编号

nanosec = df2['tstamp'].values - df2.iloc[0,1].value
shift_change = nanosec.astype(np.int64) % (3600 * 1e9 * 12)  == 0
df2['shift_nbr'] = shift_change.cumsum()

for k,g in gb2:
    print(f'{k} has {len(g)} items')

>>>
1 has 12 items
2 has 11 items
3 has 12 items
4 has 12 items
5 has 12 items
6 has 12 items
7 has 1 items

很遗憾,pd.to_datetime(ts.strftime('%m-%d-%y %H:%M'))需要一些时间。这是一种使用时间戳的hour属性来计算经过时间的更快/更好的方法-无需创建单独的时区朴素系列,hour属性似乎是 unware 。它也适用于班次中间开始的数据。

ts = pd.date_range('01-01-2018 03:00', '01-01-2019 06:00', freq='H', tz='US/Eastern')
df3 = pd.DataFrame({'tstamp':ts,'period':range(len(ts))})

shift_change = ((df3['tstamp'].dt.hour - 6) % 12) == 0
shift_nbr = shift_change.cumsum()

gb3 = df3.groupby(shift_nbr)

print(sep,'gb3')
for k,g in gb3:
    if len(g) != 12:
        print(f'shift starting {g.iloc[0,1]} has {len(g)} items')

>>>
shift starting 2018-01-01 03:00:00-05:00 has 3 items
shift starting 2018-03-10 18:00:00-05:00 has 11 items
shift starting 2018-11-03 18:00:00-04:00 has 13 items
shift starting 2019-01-01 06:00:00-05:00 has 1 items