我正在使用scikit学习,我想绘制精度和召回曲线。我正在使用的分类器是RandomForestClassifier。 scikit学习文档中的所有资源均使用二进制分类。另外,我可以为多刻度绘制ROC曲线吗?
此外,我只为支持多标签的SVM找到了它,它具有的决策功能是RandomForest没有的
答案 0 :(得分:1)
来自scikit-learn文档:
精确召回曲线通常在二进制分类中用于 研究分类器的输出。为了扩展 精度调用曲线和平均精度为多类或 多标签分类时,有必要对输出进行二值化。 每个标签可以绘制一条曲线,但也可以绘制一条曲线 通过考虑标签的每个元素的精确调用曲线 指标矩阵作为二进制预测(微平均)。
ROC曲线通常用于二进制分类研究 分类器的输出。为了将ROC曲线和ROC面积扩展到 多类或多标签分类,有必要二值化 输出。每个标签可以绘制一条ROC曲线,但也可以绘制一条 通过考虑标签指示器的每个元素来绘制ROC曲线 矩阵作为二进制预测(微平均)。
因此,您应该对输出进行二值化,并考虑每个类的Precision-Recall和roc曲线。此外,您将使用predict_proba
来获得类概率。
我将代码分为三部分:
1。常规设置,学习和预测
from sklearn.datasets import fetch_mldata
from sklearn.model_selection import train_test_split
from sklearn.ensemble import RandomForestClassifier
from sklearn.multiclass import OneVsRestClassifier
from sklearn.metrics import precision_recall_curve, roc_curve
from sklearn.preprocessing import label_binarize
import matplotlib.pyplot as plt
#%matplotlib inline
mnist = fetch_mldata("MNIST original")
n_classes = len(set(mnist.target))
Y = label_binarize(mnist.target, classes=[*range(n_classes)])
X_train, X_test, y_train, y_test = train_test_split(mnist.data,
Y,
random_state = 42)
clf = OneVsRestClassifier(RandomForestClassifier(n_estimators=50,
max_depth=3,
random_state=0))
clf.fit(X_train, y_train)
y_score = clf.predict_proba(X_test)
2。精确调用曲线
# precision recall curve
precision = dict()
recall = dict()
for i in range(n_classes):
precision[i], recall[i], _ = precision_recall_curve(y_test[:, i],
y_score[:, i]))
plt.plot(recall[i], precision[i], lw=2, label='class {}'.format(i))
plt.xlabel("recall")
plt.ylabel("precision")
plt.legend(loc="best")
plt.title("precision vs. recall curve")
plt.show()
3。 ROC曲线
# roc curve
fpr = dict()
tpr = dict()
for i in range(n_classes):
fpr[i], tpr[i], _ = roc_curve(y_test[:, i],
y_score[:, i]))
plt.plot(fpr[i], tpr[i], lw=2, label='class {}'.format(i))
plt.xlabel("false positive rate")
plt.ylabel("true positive rate")
plt.legend(loc="best")
plt.title("ROC curve")
plt.show()