如何在Logistic回归中找到Logistic / Sigmoidal函数参数

时间:2017-10-12 04:39:50

标签: python machine-learning scikit-learn logistic-regression

我想估计医学数据的逻辑回归中使用的S形/逻辑的最佳参数(在最后提到:斜率和截距)。这就是我所做的python:

import numpy as np
from sklearn import preprocessing, svm, neighbors
from sklearn.linear_model import LinearRegression, LogisticRegression
from sklearn.model_selection import train_test_split
from sklearn import preprocessing, svm, utils
from scipy.io import loadmat
import pandas as pd

我有Apache.mat文件,其中包含4列:Apache得分(0-72),患者人数,死亡人数,比例(死亡人数与患者人数的比率)

datamat = loadmat('Apache.mat')
data = pd.DataFrame(np.hstack((datamat['apacheII'], datamat['NoPatients'], 
datamat['NoDeaths'], datamat['proportion'])))

data.columns = ['apacheII', 'NoPatients', 'NoDeaths', 'proportion']

在这里,我创建了可以使用的数据帧。

x = np.array(data.drop(['NoPatients', 'NoDeaths', 'proportion'],1))

我删除了不受欢迎的列,现在只留下了'x'

中的ApacheII分数
#scaling the data (normalizing)
x = preprocessing.scale(x)

y = np.array(data['proportion'])

现在,我已经使用LabelEncoder()函数对'y'进行编码,因此它可以与LogisticRegression()兼容。

lab_enc = preprocessing.LabelEncoder()
encoded = np.array(lab_enc.fit_transform(y))

clf = LogisticRegression()
clf.fit(x, encoded)
print(clf.coef_)
print(clf.intercept_)

输出如下:

[[-0.49124107]
[-0.23528893]
[-0.19035795]
[-0.30312848]
[-0.25783808]
 [-0.37161079]
 [-0.12332468]
 [-0.16797195]
 [-0.05660718]
 [-0.21279785]
 [-0.22142453]
 [-0.10105617]
 [-0.14562868]
 [ 0.00991192]
 [-0.012247  ]
 [ 0.03206243]
 [ 0.07635461]
 [ 0.20951544]
 [ 0.12067417]
 [-0.03441851]
 [ 0.16504852]
 [ 0.09850035]
 [ 0.23179558]
 [ 0.05420914]
 [ 1.47513463]]
[-1.79691975 -2.35677113 -2.35090141 -2.3679202  -2.36017388 -2.38191049
 -2.34441678 -2.34843121 -2.34070389 -2.35368047 -1.57944984 -2.3428732
 -2.3462668  -2.33974088 -2.33975687 -2.34002906 -2.34151792 -2.35329447
 -2.34422478 -2.34007746 -2.34814388 -2.34271603 -2.35632459 -2.34062229
 -1.72511457]

我只想找出通常用于Logistic回归的S形函数的参数。如何找到S形参数(即截距和斜率)?

这是sigmoidal函数(如果需要引用):

def sigmoid(x, x0, k):
     y = 1 / (1 + np.exp(-k*(x-x0)))
     return y

1 个答案:

答案 0 :(得分:1)

这是LogisticRegression用于解决多项问题的正常行为。 看there

  

在多类情况下,训练算法使用one-vs-rest   (OvR)计划

     当问题是二进制时,

intercept_是形状(1,)。

示例:

>>> clf = LogisticRegression()
>>> clf.fit([[1,2], [1,3], [0, 1]], [[0],[1],[0]])
>>> clf.coef_
array([[ 0.02917282,  0.12584457]])
>>> clf.intercept_
array([-0.40218649])
>>> clf.fit([[1,2], [1,3], [0, 1]], [[0],[1],[2]])
>>> clf.coef_
array([[ 0.25096507, -0.24586515],
       [ 0.02917282,  0.12584457],
       [-0.41626058, -0.43503612]])
>>> clf.intercept_
array([-0.15108918, -0.40218649,  0.1536541 ])

事实上,有些模型旨在解决不同的二元问题。您可以合并第i个coef和第i个截距,并且您将获得解决第i个二进制问题的模型,依此类推到列表末尾。