为什么auc与sklearn和R

时间:2016-06-17 03:17:54

标签: python r scikit-learn logistic-regression glm

我使用相同的数据集来训练R和python sklearn中的逻辑回归模型。数据集不平衡。 我发现auc是完全不同的。 这是python的代码:

model_logistic = linear_model.LogisticRegression() #auc 0.623
model_logistic.fit(train_x, train_y)
pred_logistic = model_logistic.predict(test_x) #mean:0.0235 var:0.023
print "logistic auc: ", sklearn.metrics.roc_auc_score(test_y,pred_logistic)

这是R的代码:

glm_fit <- glm(label ~ watch_cnt_7 + bid_cnt_7 + vi_cnt_itm_1 + 
ITEM_PRICE  + add_to_cart_cnt_7 + offer_cnt_7 +     
 dwell_dlta_4to2 + 
 vi_cnt_itm_2 + asq_cnt_7 + watch_cnt_14to7 + dwell_dlta_6to4 + 
auct_type + vi_cnt_itm_3 + vi_cnt_itm_7 + vi_dlta_4to2 + 
vi_cnt_itm_4 + vi_dlta_6to4 + tenure + sum_SRCH_item_7 + 
vi_cnt_itm_6 + dwell_itm_3 + 
offer_cnt_14to7 + #
dwell_itm_2 + dwell_itm_6 + CNDTN_ROLLUP_ID +
dwell_itm_5 + dwell_itm_4 + dwell_itm_1+ 
bid_cnt_14to7 + item_prchsd_cnt_14to7 +  #
dwell_itm_7  + median_day_rate + vb_ratio
, data = train, family=binomial())
p_lm<-predict(glm_fit, test[1:nc-1],type = "response" )
pred_lm <- prediction(p_lm,test$label)
auc <- performance(pred_lm,'auc')@y.values

python的auc是0.623而R是0.887。 所以我想知道sklearn逻辑回归有什么问题以及如何修复它。感谢。

1 个答案:

答案 0 :(得分:1)

在python脚本中,您应该使用predict_proba获取两个类的概率估计值,并将正类的第二列作为roc_auc_score的输入,因为ROC曲线是通过改变概率阈值。

pred_logistic = model_logistic.predict_proba(test_x)[:,1]