如何使用贝叶斯证据来比较模型

Question

我正在探索如何使用贝叶斯估计来比较模型，并且需要与实现它的方法进行比较。到目前为止，我刚刚发现this article更容易理解，但我仍然不确定如何实现。如果您转到第20页“使用贝叶斯证据进行模型比较”。

我们只需要为每个模型计算并比较：

同样如作者所述，“P（M）是模型先验概率。如果我们没有理由支持一个模型 另一方面，我们只是将所有这些设置为相等“。P(D|Mi)是证据，”重要的是证据是数据上的标准化PDF格式“。

这些提出了两个问题：

1. 对于所有模型，P（Mi）可以相等，这意味着我可以将它们全部设置为1或它们的总和应该是1？

2. 如果证据P（D | Mi）是标准化的pdf，它应该是一个分布，对吗？那么如何将标准化的pdf转换为值？让我最困惑的是，想象一下我有X，地面实况y和预测类y_pred。如何计算每个模型的P（D | Mi）？

这可以用 features X, ground truth y, and predicted classes y_pred给我一个简单的例子吗？如果你能在python或R中做到这一点，那就更好了。