贝叶斯方法：在贝叶斯推理中很难评估哪一部分

Question

我对贝叶斯的后验推断有疑问。

在贝叶斯推断中，假设给出了模型p（x | \ theta）和先验分布p（\ theta），我们观察到数据集D = {x_1，x_2，...，x_N}，目标是估计通常难以处理的后部p（\ theta | D）。

有时我会发现有些人会选择评估关节p（\ theta，D），因为这种关节分布与后验p（\ theta | D）= p（\ theta，D）/ p（D）成正比，什么这背后的原因是什么？ p（D）难以评估吗？谢谢你的任何建议。

Answer 1

您希望通过找到最佳参数\ theta来最大化p（θ| D）。

这可以改写为argmax P（θ| D）P（D）

然而，P（D）与θ无关。因此，你可以忽略它或用可读的数学符号

Answer 2

贝叶斯定理可以表示为p（T | x）= p（T，X）/ p（X）= p（x | T）p（T）/ p（X），对于观测数据X和参数T。

p（x | T）通常被称为模型的“似然”组件 - 如果指定模型，这在计算上很容易。同样，p（T）给出了您指定的模型先验。

你是对的，分母p（X）是一团糟，但正如@CAFEBABE指出的那样，它与参数T无关，所以它在功能上是一个常数。因此，后验的分布通常简化为p（T | x）与p（x | T）p（T）成比例。