大熊猫转移时间序列与缺失值

时间:2015-03-11 21:06:19

标签: python pandas time-series shift

我有一些时间序列,其中包含一些缺少的条目,如下所示:

date     value
---------------
2000       5
2001      10
2003      8
2004      72
2005      12
2007      13

我想为“previous_value”创建一个列。但我只想让它连续几年显示价值。所以我希望它看起来像这样:

date     value    previous_value
-------------------------------
2000       5        nan
2001      10         5
2003      8         nan
2004      72         8
2005      12        72
2007      13        nan

然而,将pandas shift函数直接应用于列'value'会使'previous_value'= 10表示'time'= 2003,'previous_value'= 12表示'time'= 2007。

在熊猫中处理这个问题最优雅的方法是什么? (我不确定它是否像设置'freq'属性一样简单。)

2 个答案:

答案 0 :(得分:3)

In [588]: df = pd.DataFrame({ 'date':[2000,2001,2003,2004,2005,2007],
                              'value':[5,10,8,72,12,13] })

In [589]: df['previous_value'] = df.value.shift()[ df.date == df.date.shift() + 1 ]

In [590]: df
Out[590]: 
   date  value  previous_value
0  2000      5             NaN
1  2001     10               5
2  2003      8             NaN
3  2004     72               8
4  2005     12              72
5  2007     13             NaN

另请参阅此处了解使用resample()的时间序列方法:Using shift() with unevenly spaced data

答案 1 :(得分:1)

您的示例看起来不像带有时间戳的实时序列数据。让我们再举一个缺少日期 2020-01-03 的例子:

df = pd.DataFrame({"val": [10, 20, 30, 40, 50]},
                  index=pd.date_range("2020-01-01", "2020-01-05"))
df.drop(pd.Timestamp('2020-01-03'), inplace=True)

            val
2020-01-01   10
2020-01-02   20
2020-01-04   40
2020-01-05   50

要移动一天,您可以将 freq 参数设置为“D”:

df.shift(1, freq='D')

输出:

            val
2020-01-02   10
2020-01-03   20
2020-01-05   40
2020-01-06   50

要将原始数据与移位数据合并,您可以合并两个表:

df.merge(df.shift(1, freq='D'),
         left_index=True,
         right_index=True,
         how='left',
         suffixes=('', '_previous'))

输出:

            val  val_previous
2020-01-01   10           NaN
2020-01-02   20          10.0
2020-01-04   40           NaN
2020-01-05   50          40.0

您可以找到的其他偏移别名 here