我最近开始研究我正在开发的模型的插入包。我正在使用最新版本。作为第一步,我决定将它用于特征选择。我使用的数据有大约760个特征和10k观测值。我基于在线培训材料创建了一个简单的功能。不幸的是,我一直都会遇到错误,因此流程永远不会完成。这是产生错误的代码。在这个例子中,我使用了一小部分功能。我开始使用全套功能。我也改变了子集,折叠次数和重复次数无济于事。我知道没有数据就很难追查问题。我有shared一小部分数据(以下面使用的r对象格式)。如果您无法从中获取文件,请尝试link。
它总是会产生这个错误:
{:任务1失败 - “替换长度为零”
错误
caretFeatureSelection <- function() {
library(caret)
library(mlbench)
library(Hmisc)
set.seed(10)
lr.features = c("f2", f271","f527","f528","f404", "f376", "f67", "f670", "f281", "f333", "f13", "f282", "f599",
"f597", "f68", "f629", "f378", "f230", "f229", "f273", "f768", "f406", "f630",
"f596", "f598", "f413", "f412", "f332", "f377", "f766", "f767", "f775", "f10", "f442")
trainDF <- readRDS(file='trainDF.rds')
trainDF <- trainDF[trainDF$loss>0,]
trainDF$lossProb <- trainDF$loss/100
y <- trainDF[,'lossProb']
x <- trainDF[,names(trainDF) %in% lr.features]
rm(trainDF)
subsets <- c(1:5, 10, 15, 20, 25)
ctrl <- rfeControl(functions = lrFuncs,
method = "repeatedcv",
repeats = 1,
number=5)
lrProfile <- rfe(x, y,
sizes = subsets,
rfeControl = ctrl)
lrProfile
}
答案 0 :(得分:4)
因此,查看数据,失败有三个原因。首先,
> str(x)
'data.frame': 100 obs. of 34 variables:
$ f2 : Factor w/ 10 levels "1","2","3","4",..: 8 8 8 8 9 8 9 9 7 8 ...
<snip>
rfe
将lm
模型拟合到这些数据,并生成39个系数,即使数据框x
有34列也是如此。结果,rfe
变得困惑。在运行model.matrix
之前,请尝试使用rfe
将因子转换为虚拟变量:
x2 <- model.matrix(~., data = x)[,-1] ## the -1 removes the intercept column
......但......
> table(x$f2)
1 2 3 4 6 7 8 9 10 11
0 0 0 2 2 5 32 36 23 0
所以model.matrix
会产生一些零方差预测因子(这是一个问题)。您可以使用排除空白级别的新级别创建一个新因子,但请记住,对这些数据的任何重新采样都会将某些因子级别(例如“4”,“6”)强制转换为零方差预测变量。
其次,一些预测因子之间存在完美的相关性:
> cor(x$f597, x$f599)
[,1]
[1,] 1
这将导致某些模型系数的NA
值,并导致丢失变量重要性,并将显示rfe
。
除非您使用的树或其他模型能够容忍稀疏和/或相关预测变量,否则rfe
之前的可能工作流程可能是:
> x2 <- model.matrix(~., data = x)[,-1]
>
> nzv <- nearZeroVar(x2)
> x3 <- x2[, -nzv]
>
> corr_mat <- cor(x3)
> too_high <- findCorrelation(corr_mat, cutoff = .9)
> x4 <- x3[, -too_high]
>
> c(ncol(x2), ncol(x3), ncol(x4))
[1] 42 37 27
最后,根据y
的外观,您希望预测一个数字,但lrFuncs
用于逻辑回归,因此我认为它是lmFuncs
的拼写错误。如果是这种情况,rfe
可以正常工作:
> subsets <- c(1:5, 10, 15, 20, 25)
> ctrl <- rfeControl(functions = lmFuncs,
+ method = "repeatedcv",
+ repeats = 1,
+ number=5)
> set.seed(1)
> lrProfile <- rfe(as.data.frame(x4), y,
+ sizes = subsets,
+ rfeControl = ctrl)
最高