多类分类和概率预测

时间:2018-05-02 09:14:53

标签: python machine-learning scikit-learn naivebayes multiclass-classification

import pandas as pd
import numpy
from sklearn import cross_validation
from sklearn.naive_bayes import GaussianNB

fi = "df.csv"
# Open the file for reading and read in data
file_handler = open(fi, "r")
data = pd.read_csv(file_handler, sep=",")
file_handler.close()

# split the data into training and test data
train, test = cross_validation.train_test_split(data,test_size=0.6, random_state=0)
# initialise Gaussian Naive Bayes
naive_b = GaussianNB()


train_features = train.ix[:,0:127]
train_label = train.iloc[:,127]

test_features = test.ix[:,0:127]
test_label = test.iloc[:,127]

naive_b.fit(train_features, train_label)
test_data = pd.concat([test_features, test_label], axis=1)
test_data["p_malw"] = naive_b.predict_proba(test_features)

print "test_data\n",test_data["p_malw"]
print "Accuracy:", naive_b.score(test_features,test_label)

我已编写此代码以接受来自csv文件的输入,其中包含128列,其中127列是要素,第128列是类标签。

我想预测样本属于每个类的概率(有5个类(1-5))并将其打印成矩阵,并根据预测确定样本类。 predict_proba()没有给出所需的输出。请提出所需的更改建议。

1 个答案:

答案 0 :(得分:1)

GaussianNB.predict_proba返回模型中每个类的样本概率。在您的情况下,它应该返回一个结果,其中包含五行,其行数与测试数据中的行数相同。您可以使用naive_b.classes_验证哪个列对应于哪个类。因此,不清楚为什么你说这不是理想的输出。也许,您的问题来自于您将预测问题的输出分配给数据框列的事实。尝试:

pred_prob = naive_b.predict_proba(test_features)

而不是

test_data["p_malw"] = naive_b.predict_proba(test_features)

并使用pred_prob.shape验证其形状。第二个维度应为5。

如果您想要每个样本的预测标签,您可以使用预测方法,然后使用混淆矩阵来查看已正确预测了多少个标签。

from sklearn.metrics import confusion_matrix

naive_B.fit(train_features, train_label)

pred_label = naive_B.predict(test_features)

confusion_m = confusion_matrix(test_label, pred_label)
confusion_m

这是一些有用的阅读材料。

sklearn GaussianNB - http://scikit-learn.org/stable/modules/generated/sklearn.naive_bayes.GaussianNB.html#sklearn.naive_bayes.GaussianNB.predict_proba

sklearn confusion_matrix - http://scikit-learn.org/stable/modules/generated/sklearn.metrics.confusion_matrix.html