为什么不在感知器或SVM中使用0-1损失函数?

时间:2013-04-22 12:28:15

标签: svm perceptron

为什么0-1损失函数(从概念二元分类模型的角度来看最明显和最有用的信息)不用于感知器或SVM算法?

1 个答案:

答案 0 :(得分:2)

在感知器的情况下,大多数时候他们使用梯度下降(或类似的东西)进行训练,并且0-1损失函数是平坦的,因此它不会很好地收敛(更不用说它在0处不可微分) )

SVM基于解决优化问题,最大化类之间的差距。因此在这种情况下,凸损函数是优选的,因此我们可以使用几种一般的凸优化方法。 0-1损失函数不是凸的,因此也不是很有用。请注意,这是由于当前的技术水平,但如果发现了一种有效优化非凸函数的新方法,那么这种方法就会发生变化。

编辑:拼写错误