SciKit-learn - 高斯朴素贝叶斯实现

时间:2015-06-29 15:56:58

标签: python machine-learning scikit-learn

我已经开始使用 Scikit-learn ,我正在尝试训练和预测高斯朴素贝叶斯分类器。我不知道自己做得很好,如果有人可以帮助我,我想知道。

问题:我输入X数量类型为1的项目,并且我将其作为0类型的响应

我怎么做的 为了生成训练数据我做了这个:

 #this is of type 1
    ganado={
            "Hora": "16:43:35",
            "Fecha": "19/06/2015",
            "Tiempo": 10,
            "Brazos": "der",
            "Sentado": "no",
            "Puntuacion Final Pasteles": 50,
            "Nombre": "usuario1",
            "Puntuacion Final Botellas": 33
        }
    #this is type 0
    perdido={
            "Hora": "16:43:35",
            "Fecha": "19/06/2015",
            "Tiempo": 10,
            "Brazos": "der",
            "Sentado": "no",
            "Puntuacion Final Pasteles": 4,
            "Nombre": "usuario1",
            "Puntuacion Final Botellas": 3
        }
    train=[]
    for repeticion in range(0,400):
        train.append(ganado)

    for repeticion in range(0,1):
            train.append(perdido)

我用这个弱点来标记数据:

listLabel=[]
for data in train:
    condition=data["Puntuacion Final Pasteles"]+data["Puntuacion Final Botellas"]       
    if condition<20:
        listLabel.append(0)
    else:
        listLabel.append(1)

我生成用于测试的数据:

  #this should be type 1
    pruebaGanado={
            "Hora": "16:43:35",
            "Fecha": "19/06/2015",
            "Tiempo": 10,
            "Brazos": "der",
            "Sentado": "no",
            "Puntuacion Final Pasteles": 10,
            "Nombre": "usuario1",
            "Puntuacion Final Botellas": 33
        }
    #this should be type 0
    pruebaPerdido={
            "Hora": "16:43:35",
            "Fecha": "19/06/2015",
            "Tiempo": 10,
            "Brazos": "der",
            "Sentado": "no",
            "Puntuacion Final Pasteles": 2,
            "Nombre": "usuario1",
            "Puntuacion Final Botellas": 3
        }
        test=[]
        for repeticion in range(0,420):
            test.append(pruebaGanado)
            test.append(pruebaPerdido)

之后,我使用trainlistLabel来训练分类器:

vec = DictVectorizer()
X=vec.fit_transform(train)
gnb = GaussianNB()
trained=gnb.fit(X.toarray(),listLabel)

一旦我训练了分类器,我就会使用数据进行测试

testX=vec.fit_transform(test)
predicted=trained.predict(testX.toarray())

最后结果总是0。你能告诉我我做错了什么以及如何解决它吗?

1 个答案:

答案 0 :(得分:1)

首先,由于您的数据具有不提供信息的功能(所有数据的值相同),我稍微清理了一下:

ganado={
    "a": 50,
    "b": 33
}
perdido={
        "a": 4,
        "b": 3
    }
pruebaGanado={
        "a": 10,
        "b": 33
    }
pruebaPerdido={
        "a": 2,
        "b": 3
    }

所有其他内容并不重要,清理代码将有助于您专注于重要事项。

现在,高斯朴素贝叶斯关注概率:你可能会注意到,分类器试图告诉你:

P((a,b)=(10,33)|class=0)*P(class=0)   >   P((a,b)=(10,33)|class=1)*P(class=1)

因为它假定ab都具有正态分布,并且在这种情况下的概率非常低,所以你给它的先验 - (1,400)可以忽略不计。您可以看到公式本身here。 顺便说一下,你可以得到确切的概率:

t = [pruebaGanado,pruebaPerdido]
t = vec.fit_transform(t)
print model.predict_proba(t.toarray())
#prints:
[[ 1.  0.]
[ 1.  0.]]

因此分类器确定0是正确的类。现在,让我们改变一下测试数据:

pruebaGanado={
    "Puntuacion Final Pasteles": 20,
    "Puntuacion Final Botellas": 33
}

现在我们有:

[[ 0.  1.]
[ 1.  0.]]

所以你没有做错任何事,这都是计算的问题。顺便说一下,我挑战你用GaussianNB替换MultinomialNB,看看先验如何改变它。

另外,除非你有充分的理由在GaussianNB使用,否则我会考虑使用某种树分类,因为在我看来它可能更适合你的问题。