朴素的贝叶斯和零频率问题

Question

我认为我已正确实施了大部分内容。有一部分让我困惑：

零频率问题： 当每个类值没有出现属性值时，为每个属性值类组合（拉普拉斯估计器）的计数加1。

以下是我的一些客户端代码：

//Clasify
string text = "Claim your free Macbook now!";
double posteriorProbSpam = classifier.Classify(text, "spam");
Console.WriteLine("-------------------------");
double posteriorProbHam = classifier.Classify(text, "ham");

现在说某个地方的训练数据中有“免费”这个词

//Training
classifier.Train("ham", "Attention: Collect your Macbook from store.");
*Lot more here*
classifier.Train("spam", "Free macbook offer expiring.");

但这个词出现在我的“垃圾邮件”类别的培训数据中，而不是“火腿”。所以当我去计算posteriorProbHam时，当我遇到“免费”这个词时，我该怎么办。

Answer 1

仍然添加一个。原因：朴素贝叶斯模型P("free" | spam)和P("free" | ham)完全独立，因此您需要完全独立地估计每个模型的概率。您用于P("free" | spam)的拉普拉斯估算工具为(count("free" | spam) + 1) / count(spam); P("ham" | spam)是一样的。

如果你想一想不加一个是什么意思，那就没有意义了：在火腿上看一次“免费”可以减少垃圾邮件中“免费”的可能性。