在非线性决策线的相对侧兜售或整合多元高斯概率

时间:2016-09-09 20:07:37

标签: machine-learning

所以我有一些看起来如下的东西:
pdf plot with decision line

但是,我在整合此决策线另一侧的数据时遇到了麻烦,以解决我的错误。

1 个答案:

答案 0 :(得分:0)

通常,给定决策边界的分析形式,您可以精确计算积分。但是,为什么不使用快速,简单和通用的monte carlo(适用于任何发行版和决策边界)。您所要做的就是从高斯人那里反复采样,检查采样点是否在正确的一侧(N_c)或不正确的(N_i),在极限情况下,您将获得积分

INTEGRAL_of_distributions_being_on_correct_side ~ N_c / (N_c + N_i)
INTEGRAL_of_distributions_being_on_incorrect_side ~ N_i / (N_c + N_i) 

因此在伪代码中:

N_c = 0
N_i = 0

for i=1 to N do
   y ~ P({-, +}) # sample distribution
   x ~ P(X|y) # sample point from given class
   if side_of_decision(x) == y then
     N_c += 1
   else
     N_i += 1
   end
end

return N_c, N_i

在你的情况下,P({-, +})可能只有50%的机会而P(X|-)P(X|+)是你的两位高斯。