Question

您好我在R中使用randomForest并且它不接受逻辑变量作为响应（Y），但似乎接受它作为预测器（X）。我有点意外b / c我认为逻辑基本上是2级因素...

我的问题是：randomForest是否接受逻辑作为预测器，而不是响应？为什么会这样？其他常见模型（glmnet，svm，...）是否接受逻辑变量？

感谢任何解释/讨论。感谢

N = 100

data1 = data.frame(age = sample(1:80, N, replace=T),
                   sex = sample(c('M', 'F'), N, replace=T),
                   veteran = sample(c(T, F), N, replace=T),
                   exercise = sample(c(T, F), N, replace=T))

sapply(data1, class)
#       age       sex   veteran  exercise 
# "integer"  "factor" "logical" "logical" 

# this doesnt work b/c exercise is logical
rf = randomForest(exercise ~ ., data = data1, importance = T)
# Warning message:
#         In randomForest.default(m, y, ...) :
#         The response has five or fewer unique values.  Are you sure you want to do regression?

# this works, and veteran and exercise (logical) work as predictors
rf = randomForest(sex ~ ., data = data1, importance = T)
importance(rf)
#                   F         M MeanDecreaseAccuracy MeanDecreaseGini
# age      -2.0214486 -7.584637            -6.242150         6.956147
# veteran   4.6509542  3.168551             4.605862         1.846428
# exercise -0.1205806 -6.226174            -3.924871         1.013030

# convert it to factor and it works
rf = randomForest(as.factor(exercise) ~ ., data = data1, importance = T)

Answer 1

这种行为的原因是randomForest也能够进行回归（除了分类）。您也可以在获得的警告信息中观察它：

响应有五个或更少的唯一值。你确定要做回归吗？

该函数根据给定响应向量的类型决定回归和分类。如果它是一个因子分类完成，否则回归（这是有道理的，因为回归响应向量永远不会是因子/分类变量）。

关于你的问题：在输入数据集（预测变量）中使用逻辑变量没有问题，randomForest能够像你期望的那样完美地处理它。

training_data <- data.frame(x = rep(c(T,F), times = 1000)) # training data with logical
response <- as.factor(rep(c(F,T), times = 1000)) # inverse of training data
randomForest(response ~ ., data = training_data) # returns 100% accurate classifier

修改

为什么他们不在源代码中包含这种强制（逻辑因素）？

它的推测，但它可能是为了一致性和简单性。他们必须从
更改文档

如果假设一个因子，则归类，否则回归就是   假设

到


如果是因子或逻辑向量，则假定分类，否则回归为   假设

然后人们可能会出现要求角色...... 如果逻辑响应向量仅包含TRUE或FALSE值，则可能会出现问题。如果你强迫这样的向量因子，它将只有一个级别。（虽然在结果始终为假的数据集上训练模型没有意义）

但是，如果作者包括这样一个更聪明的＆＃34;强制，他们将不得不处理这些问题并定义这些边界案件中的行为，并记录下来。

randomForest [R]不接受逻辑变量作为响应，但接受它作为预测器吗？

1 个答案: