CRF ++中使用的边际概率公式是什么?

时间:2012-01-14 17:25:30

标签: machine-learning

CRF ++说它可以:

“可以在其页面上输出所有候选人的边际概率”:http://crfpp.sourceforge.net/

但在条件随机场中,用于找到这些概率的公式的符号是什么?

有人告诉我这不仅仅是p(a|b),因为条件随机字段使用来自相邻观察的上下文。

这些边际概率究竟是什么?

1 个答案:

答案 0 :(得分:1)

条件概率仅为p(y|x),其中y是标签序列,x是相关的观察序列。

此概率的表达式只是softmax函数\exp( a_i ) / \sum_{i'} \exp ( a_{i'})

对于CRF,a_i是标签序列a_i = w \cdot \phi(x,y)的函数,其中\phi(x,y)是从序列及其标签派生的特征向量。

这意味着分母中的总和超过了指数可能的标签数\mathcal{Y}

\sum_{y' \in \mathcal{Y}} \exp ( w \cdot \phi(x,y) )