逻辑回归成本函数scikit学习

时间:2017-09-20 14:03:37

标签: machine-learning scikit-learn logistic-regression

所以我已经完成了一门课程,现在我正在研究scikit-learn逻辑回归,这有点不同。我一直在使用sigmoid函数,当y = 0和y = 1时,成本函数被分为两个独立的情况。但是scikit学习有一个功能(我发现这是广义的逻辑功能),这对我来说真的没有意义。

http://scikit-learn.org/stable/_images/math/760c999ccbc78b72d2a91186ba55ce37f0d2cf37.png 对不起,我没有足够的声誉来发布图片。

因此,当y = 0时,函数的主要关注点是成本函数总是具有此log(e ^ 0 + 1)值,因此X或w无关紧要。有人可以解释一下吗?

1 个答案:

答案 0 :(得分:0)

如果我是正确的,你在此公式中的$ y_i $只能假定值为-1或1(由@ jinyu0310给出的链接中的派生)。通常使用此成本函数(使用正则化)

(抱歉将图像作为图像插入,但此处不能使用乳胶,图片来自goo.gl/M53u44)

enter image description here

因此,当yi = 0或yi = 1时,你总是有两个术语起作用。我试图找到一个更好的解释scikit在这个公式中使用的符号,但到目前为止没有运气。

希望能帮到你。只是用正则化因子编写成本函数的另一种方法。还要记住,在所有事物面前的常数因素不会在优化过程中发挥作用。既然你想找到最小值,并且对那些乘以一切的整体因素不感兴趣。