可以`ddply`(或类似的)做一个滑动窗口?

时间:2011-08-29 04:14:16

标签: r plyr

这样的东西
sliding = function(df, n, f)
    ldply(1:(nrow(df) - n + 1), function(k)
        f(df[k:(k + n - 1), ])
    )

这将像

一样使用
> df
  n         a
1 1 0.8021891
2 2 0.9446330
...

> sliding(df, 2, function(df) with(df,
+     data.frame(n = n[1], a = a[1], b = sum(n - a))
+ ))
  n         a        b
1 1 0.8021891 1.253178
...

直接在ddply内,所以我可以得到很好的语法糖 随之而来的是什么?

1 个答案:

答案 0 :(得分:9)

由于此问题没有得到答案,我认为我会提出一个问题,即实际上有一种更好的方法可以解决这类问题 - 一个也可能是快几千次。 (如果这没有用,请告诉我,但我认为这比没有什么更好)

每当我听到“移动平均线”或“滑动窗口”时, FFT卷积立即浮现在我脑海中。这是因为它可以极其高效的方式处理这些类型的问题。由于所有的“滑动”都是在幕后完成的,我认为它也具有你可能要求的所有语法美。

(以下代码位于https://gist.github.com/1320175的一个文件中)

我们首先模拟一些数据(为了简单起见,我在这里使用整数,但当然你不需要)。

require(plyr)
set.seed(12345)

n = 10
n.sum = 2
a = sample.int(10, n, replace=T)

df = data.frame(n=1:n, a)
> df
    n  a
1   1  8
2   2  9
3   3  8
4   4  9
5   5  5
6   6  2
7   7  4
8   8  6
9   9  8
10 10 10

现在,我们将一次性预先计算n-a

n.minus.a = with(df, n - a)

接下来,定义内核 k,当与我们的输入n.minus.a进行卷积时,将对我们的数据进行求和(或平均/平滑/其他任何)。

k = rep(0, n)
k[1:n.sum] = 1

设置好所有内容后,我们可以定义一个函数,通过fft()在频域中有效地进行卷积。

myConv <- function(x, k){
  Fx  = fft(x)
  Fk  = fft(k)
  Fxk = Fx * Fk
  xk  = fft(Fxk, inverse=T)
  (Re(xk) / n)[-(1:(n.sum-1))]
}

执行此操作的语法很简单:

> myConv(n.minus.a, k)
[1] -14 -12 -10  -5   4   7   5   3   1

当您使用R中的convolve()便利功能

时,所有这些也会在幕后发生
> convolve(n.minus.a, k)[1:(length(n.minus.a)-n.sum+1)]
[1] -14 -12 -10  -5   4   7   5   3   1

我们现在将其与手动方法进行比较,以显示结果都是等效的:

> sliding(df, 2, function(df) with(df, data.frame(n = n[1], a = a[1], b = sum(n - a))))
  n a   b
1 1 8 -14
2 2 9 -12
3 3 8 -10
4 4 9  -5
5 5 5   4
6 6 2   7
7 7 4   5
8 8 6   3
9 9 8   1

最后,我们将制作n=10^4并测试所有这些方法的速度:

> system.time(myConv(n.minus.a, k))
   user  system elapsed 
  0.002   0.000   0.002 
> system.time(convolve(n.minus.a, k, type='circ')[1:(length(n.minus.a)-n.sum+1)])
   user  system elapsed 
  0.002   0.000   0.002 
> system.time(sliding(df, 2, function(df) with(df, data.frame(n = n[1], a = a[1], b = sum(n - a)))))
   user  system elapsed 
  7.944   0.018   7.962 

FFT方法几乎瞬间恢复,即使在这个粗略的时间,也比手动方法快了近4000倍。

当然不是每种滑动问题都可以归结为这种范式,但是对于像这样的数值问题使用sum()(也就是加权平均值等),它的效果非常好。无论如何,至少谷歌有点值得一看,看看是否有可用的过滤内核可以解决给定的问题。祝你好运!