R:使用列表修剪异常值

时间:2015-11-17 17:21:29

标签: r list outliers mapply

我有一个包含11个数据帧的列表,每个数据帧具有44个变量的相同结构。其中一个变量是比率,我试图修剪包含异常值的记录。我已经能够使用以下代码提出上限和下限。

首先,我为每个数据框创建了一个分位数列表:

quartiles <- lapply(class203_in, function(x) {
    quartiles <- quantile(x$mv_ratio, type=6)
    })

接下来,我爆发了第一和第三个四分位数:

q1 <- lapply(quartiles, function(x) {
    q1 <- x[2]
    })

# create list of third quartile
q3 <- lapply(quartiles, function(x) {
    q3 <- x[4]
    })

然后我计算了IQR:

iqr <- lapply(class203_in, function(x) {
    iqr <- IQR(x$mv_ratio, type=6)
    })

最后提出了上限和下限:

lower <- mapply(function(x, y) x - (y * 1.5), q1, iqr)
upper <- mapply(function(x, y) (y * 1.5) + x, q3, iqr)

结果查找每个样子(上限具有相同的确切结构和列表中每个对象的名称):

> lower
$`Yr02.25%`
[1] 0.1885

$`Yr03.25%`
[1] 0.2245

$`Yr04.25%`
[1] 0.2005

$`Yr05.25%`
[1] 0.1795

$`Yr06.25%`
[1] 0.2315

$`Yr07.25%`
[1] 0.127

$`Yr08.25%`
[1] 0.06125

$`Yr09.25%`
[1] 0.0365

$`Yr10.25%`
[1] -0.29725

$`Yr11.25%`
[1] -0.2985

$`Yr12.25%`
[1] -0.1045

我现在正试图使用​​这两个列表修剪我的主数据框列表中的异常值,其中mv_ratio是我尝试修剪的变量。我已经接近了,但我似乎无法通过列表或其他方式将数据框的精确复制品推出。这是让我最接近的代码:

class203_out <- mapply(function(x, y, z) x <- x[which(x$mv_ratio > y &
     x$mv_ratio < z),], class203_in, lower, upper)   

class203_in是数据框列表。当我运行它时,我得到一个巨大的矩阵。

任何帮助或推动正确的方向将不胜感激。

1 个答案:

答案 0 :(得分:1)

由于您只处理一个列表,并且您的问题似乎很简单,我建议您使用doParallel包执行foreach(如果您愿意,可以进行并行化,但默认为顺序)。

另外,我建议您使用data.table,因为。

library(doParallel)
library(data.table)

subsetted_df_list <- foreach(i = seq(df_list)) %do% {
  x <- setDT(df_list[[i]])
  q <- quantile(x$mv_ratio, type = 6)
  iqr <- IDR(x$mv_ratio, type = 6)
  lower <- q[2] - iqr * 1.5
  upper <- q[4] + iqr * 1.5
  x[mv_ratio < upper & lower < mv_ratio]
}

这将返回原始列表中的子集化数据框列表,此处称为df_list