在pandas数据帧中添加丢失的时间

时间:2017-03-08 13:47:39

标签: python pandas datetime epoch

我的列中有pandas.DataFrame个时间戳。这些值是以纪元为单位,相隔0.1秒。像1488771900.100000, 1488771900.200000等值。但是,缺少值。所以我有1488794389.500000然后1488794389.900000,其间有3个缺失值。我想在数据框中插入行,在此列中的最大值和最小值之间缺少值。因此,如果min为1488771900.000000且max为1488794660.000000,我想插入所有值相隔0.1秒的行和所有其他列中的NA。

我在link看到了答案,但无法复制相同内容。

如何执行此操作?

1 个答案:

答案 0 :(得分:2)

您可以使用pandas.DataFrame.resample填写遗失的时间。需要注意的是,数据框需要pandas.DateTimeIndex。在您的情况下,时间可能存储为自纪元以来的秒数浮点数,并且需要在重新采样之前进行转换。这是一个执行该操作的函数。

<强>代码:

import datetime as dt
import pandas as pd

def resample(dataframe, time_column, sample_period):
    # make a copy of the dataframe
    dataframe = dataframe.copy()

    # convert epoch times to datetime
    dataframe.time = dataframe.time.apply(
        lambda ts: dt.datetime.fromtimestamp(ts))

    # make the datetimes into an index
    dataframe.set_index(time_column, inplace=True)

    # resample to desired period
    dataframe = dataframe.resample(sample_period).asfreq().reset_index()

    # convert datetimes back to epoch
    epoch = dt.datetime.fromtimestamp(0)
    dataframe.time = dataframe.time.apply(
        lambda ts: (ts - epoch).total_seconds())
    return dataframe

测试代码:

values = [
    (1488771900.10, 'a'),
    (1488771900.20, 'b'),
    (1488771900.30, 'c'),
    (1488771900.60, 'f'),
]
columns = ['time', 'value']
df = pd.DataFrame(values, columns=columns)
print(df)

new_df = resample(df, 'time', '100ms')
print(new_df)

<强>结果:

           time value
0  1.488772e+09     a
1  1.488772e+09     b
2  1.488772e+09     c
3  1.488772e+09     f

           time value
0  1.488772e+09     a
1  1.488772e+09     b
2  1.488772e+09     c
3  1.488772e+09   NaN
4  1.488772e+09   NaN
5  1.488772e+09     f