支持向量回归中的度数 - RBF核

时间:2015-03-27 13:41:39

标签: scikit-learn svm gaussian

我想问一下SVM上的RBF内核。

在sklearn的文档中:http://scikit-learn.org/stable/modules/generated/sklearn.svm.SVR.html#sklearn.svm.SVR 据说,核函数的程度仅在poly,rbf,sigmoid"中有意义。

我可以理解多项式内核上度的含义,但是高斯(rbf)内核呢? 我可以看到,sklearn的库中默认值为3。我还运行了一个GridSearch,其中包含了我想出的一些数字,估计3也是最佳值。 它真的很重要还是只是一个错误的类型? 如果是这样,有人可以解释一下它的含义和价值吗?

提前致谢

1 个答案:

答案 0 :(得分:1)

内核只是用于实现模型的基础函数。 3阶的多项式函数是ax^3+bx^2+cx+d。您可以使用更高度的多项式,但是您可能会过度拟合,这意味着您的模型不能很好地概括,这正是您想要的。有几种技术可以防止过度拟合。

RBF内核基于gaussin函数,类似于 exp(-b x)。如果您对机器学习一无所知,我建议您使用这些。通常他们会适应最好的。

如果您想了解有关机器学习的更多信息,有关课程的Ng's course非常适合初学者。