如何将滚动卡尔曼滤波器应用于DataFrame中的列?

时间:2018-02-12 03:30:45

标签: pandas kalman-filter

如何将滚动卡尔曼滤波器应用于DataFrame列(不使用外部数据)?

也就是说,假装每一行都是一个新的时间点,因此需要在每一行之后更新(以滚动方式)描述性统计数据。

例如,如何将卡尔曼滤波器应用于以下DataFrame中的任何列?

n = 2000
index = pd.date_range(start='2000-01-01', periods=n)
data = np.random.randn(n, 4)
df = pd.DataFrame(data, columns=list('ABCD'), index=index)

我之前看过的回复(12)但是他们没有将它应用到DataFrame列(并且它们没有矢量化)。

如何将滚动卡尔曼滤波器应用于DataFrame中的列?

1 个答案:

答案 0 :(得分:1)

利用numpy的一些良好功能并使用pykalman库,并将D列上的Kalman滤波器应用于3的滚动窗口,我们可以编写:

import pandas as pd
from pykalman import KalmanFilter
import numpy as np

def rolling_window(a, step):
    shape   = a.shape[:-1] + (a.shape[-1] - step + 1, step)
    strides = a.strides + (a.strides[-1],)
    return np.lib.stride_tricks.as_strided(a, shape=shape, strides=strides)

def get_kf_value(y_values):
    kf = KalmanFilter()
    Kc, Ke = kf.em(y_values, n_iter=1).smooth(0)
    return Kc

n = 2000
index = pd.date_range(start='2000-01-01', periods=n)
data = np.random.randn(n, 4)
df = pd.DataFrame(data, columns=list('ABCD'), index=index)

wsize = 3
arr = rolling_window(df.D.values, wsize)
zero_padding = np.zeros(shape=(wsize-1,wsize))
arrst = np.concatenate((zero_padding, arr))
arrkalman = np.zeros(shape=(len(arrst),1))

for i in range(len(arrst)):
    arrkalman[i] = get_kf_value(arrst[i])

kalmandf = pd.DataFrame(arrkalman, columns=['D_kalman'], index=index)
df = pd.concat([df,kalmandf], axis=1)

df.head()应该产生如下内容:

                   A         B         C         D  D_kalman
2000-01-01 -0.003156 -1.487031 -1.755621 -0.101233  0.000000
2000-01-02  0.172688 -0.767011 -0.965404 -0.131504  0.000000
2000-01-03 -0.025983 -0.388501 -0.904286  1.062163  0.013633
2000-01-04 -0.846606 -0.576383 -1.066489 -0.041979  0.068792
2000-01-05 -1.505048  0.498062  0.619800  0.012850  0.252550