从模型性能计算中排除缺失值

时间:2016-10-06 10:03:25

标签: r missing-data r-caret imputation

我有一个数据集,我想建立一个模型,最好使用caret包。我的数据实际上是一个时间序列,但问题不是特定于时间序列,而是我使用CreateTimeSlices来处理数据分区。

我的数据有一定数量的缺失值NA,我将它们分别归为caret代码。我还记录了他们的位置:

# a logical vector same size as the data, which obs were imputed NA
imputed=c(FALSE, FALSE, FALSE, TRUE, FALSE, FALSE)
imputed[imputed] <- NA; print(imputed)
#### [1] FALSE FALSE FALSE    NA FALSE FALSE

我知道Caret train函数中有一个选项可以排除NA或用不同的方法对它们进行估算。这不是我想要的 。我需要在已经估算的数据集上构建模型,但是我想从计算错误指标(RMSE,MAE,...)中排除推算点。

我不知道如何用插入符号做到这一点。在我的第一个脚本中,我尝试手动完成整个交叉验证,然后我有一个自定义的错误度量:

actual = c(5, 4, 3, 6, 7, 5)
predicted = c(4, 4, 3.5, 7, 6.8, 4)
Metrics::rmse(actual, predicted) # with all the points
#### [1] 0.7404953
sqrt(mean( (!imputed)*(actual-predicted)^2 , na.rm=T)) # excluding the imputed
#### [1] 0.676757

我如何在caret中处理这种做法?或者还有另一种方法可以避免手工编码吗?

1 个答案:

答案 0 :(得分:4)

我不知道你是否在寻找这个,但这是一个通过创建函数的简单解决方案。

i=which(imputed==F) ## As you have index for NA values

metric_na=function(fun, actual, predicted, index){
    fun(actual[index], predicted[index])
}

metric_na(Metrics::rmse, actual, predicted, index = i)
0.676757
metric_na(Metrics::mae, actual, predicted, index = i)
0.54

此外,您可以在计算所需指标时直接使用索引。

Metrics::rmse(actual[i], predicted[i])