如何在tensorflow中实现句子级别的对数似然?

时间:2016-10-14 08:54:21

标签: tensorflow crf log-likelihood

我想实现句子级别的对数似然,如中所述 Collobert et al.,p。 14.

要计算过渡分数,我可以使用CRF,但我不知道如何将它集成到张量流中。我想过要用 tf.contrib.crf.CrfForwardRnnCell计算转换分数,但此类返回包含新alpha值的[batch_size,num_tags]矩阵值的,而不是我期望的[batch_size,num_tags,num_tags]张量。

有没有人有一个如何在tensorflow中使用CRF的例子?谢谢!

1 个答案:

答案 0 :(得分:5)

这里给出了在TensorFlow中使用contrib.crf的一个很好的例子:https://github.com/tensorflow/tensorflow/tree/master/tensorflow/contrib/crf

值得注意的是,Collobert等人在论文中描述了SLL的目标。 2011年与CRF的目标略有不同,因为SLL缺乏规范化(参见第16页的备注4),但这在实践中并不重要(我只是使用CRF。)