比较贝叶斯线性回归VS线性回归

Question

最近我学习了贝叶斯线性回归模型，但我感到困惑的是在哪种情况下我们应该使用线性回归，何时使用贝叶斯版本。这两个表现怎么样？ 并且贝叶斯逻辑回归和逻辑回归是一样的吗？我读了一篇关于使用贝叶斯概率回归来预测广告点击率的论文，我只是想知道为什么要使用贝叶斯版本？

Answer 1

在两种情况下，线性回归和逻辑回归，贝叶斯版本使用贝叶斯推理上下文中的统计分析，例如Bayesian linear regression。

每个维基百科，

  

这种（普通线性回归）是一种常见的方法，它假定有足够的测量来说出有意义的东西。在贝叶斯方法中，数据以先验概率分布的形式补充有附加信息。根据贝叶斯定理，将关于参数的先验信念与数据的似然函数相结合，以产生关于参数的后验信念。

贝叶斯分析的常用方法（添加贝叶斯味道）：

1. 找出数据的似然函数。
2. 选择所有未知参数的先前分布。
3. 使用贝叶斯定理来找出所有参数的后验分布。

为什么选择贝叶斯版？ ^[1]

• 贝叶斯模型更灵活，处理更复杂的模型。
• 贝叶斯模型选择可能更优越（BIC / AIC）。
• 贝叶斯分层模型更容易扩展到多个层次。
• 哲学差异（与频率分析相比）。
• 贝叶斯分析在小样本中更准确（但随后可能取决于 先验）。
• 贝叶斯模型可以包含先验信息

This主持一些关于贝叶斯分析的好的演讲幻灯片。