是否选择了与回归/分类模型无关的特征选择？

Question

因此，正如标题所示，我的问题是特征选择算法是否独立于所选的回归/分类模型。也许某些特征选择算法是独立的，而有些则不是？如果可以，您能列举几种吗？谢谢。

Answer 1

这取决于您用于选择特征的算法。在建模之前完成的滤波方法当然是不可知的，因为它们使用统计方法（例如卡方或相关系数）来消除不必要的特征。

如果使用在模型创建过程中选择特征的嵌入式方法，则不同的模型可能会在不同的特征集中找到价值。套索，弹性网，山脊回归就是其中的一些例子。

值得注意的是，某些模型类型在稀疏数据或缺少值的情况下表现良好，而另一些则无法。