标签: machine-learning classification random-forest feature-selection
我正在尝试使用Random forest为具有5个谓词变量的数据集构建分类模型。两个谓词变量是连续类型,一个可以是[0, 1000]区间内的实数值,而另一个可以是[-10, 10]的实际值;一个谓词变量的整数值为[10000, 15000]。此外,剩下的两个预测变量具有分类值,即{ A, B, C, D, E F}和{NY, LA, Chicago}。预处理这些不同的谓词类型是否需要任何程序?
[0, 1000]
[-10, 10]
[10000, 15000]
{ A, B, C, D, E F}
{NY, LA, Chicago}
答案 0 :(得分:0)
许多穷举搜索算法都会偏向于具有多个值的变量。如this论文所述,分离变量选择和拆分选择过程似乎对此有所帮助。他们在R中也实现了package。我不知道使用更常见的方法使用混合类型数据来避免这种情况的方法。然而,尽管这个问题导致了偏见,但根据我的经验,预测性能并没有太大差异,所以你的里程可能会有所不同。这取决于你在做什么。我不管怎样做一些模拟。同一组有两篇关于条件置换重要性的bmc生物信息学论文,讨论这些问题。