SVM是否能抵抗噪音

时间:2016-05-09 00:01:47

标签: machine-learning svm pca

我有由36个功能组成的转换集。当我使用Matlab计算PCA的“解释”值时。我注意到只有前24个组件很重要。

我的问题是,如果省略组件的重置(其他12个组件),我是否会获得更好的准确度(预测)。或者SVM对噪音非常有弹性,这意味着无论我是否删除了其他12个组件。表现不会改变那么多。

1 个答案:

答案 0 :(得分:1)

没有一般的答案,如果我用Y"进行预处理,就不可能说"方法X会发生什么?但总的来说:

  • 使用启发式预处理是一个坏主意(PCA只是一种启发式方法,从监督学习的角度来看,没有理由使用它) - 在纯粹的时候考虑它们"方法失败,而不是之前fais
  • 事实上PCA将尺寸标识为不太重要并不意味着这些是噪音
  • SVM处理噪声的能力取决于噪声强度和使用的内核,对于高偏置内核,如线性或多项式噪声不应该是问题,对于像RBF这样的低偏差 - 它会影响分类,但是 - 真实噪音,您的重新定位不符合真实噪音的定义。