机器学习中的推理和决策理论之间有什么关系?

时间:2012-12-31 18:47:38

标签: statistics machine-learning inference

我制作了一张图表来说明我对推理与决策理论之间关系的理解。有人能指出图中的一些错误吗? enter image description here

1 个答案:

答案 0 :(得分:1)

不要试图“公平”,包括贝叶斯和频率主义的解释。如果一个有效,另一个是无意义的。选择一个或另一个。当然,我的建议是选择贝叶斯解释。

我会对贝叶斯决策理论方法略有不同。说明目标并从中做出反向。

  • 目标:计算错误分类的预期损失,并选择预期损失最少的类别。
  • (选择类k的预期损失)=(类j的总和)(当真实类为j类时选择类k的成本)次数(给出可观测量x的类j的概率)
  • (错误分类成本)=矩阵使得对角线元素小于非对角线元素,即正确分类的成本低于错误分类
  • (给出x的类j的概率)通过生成模型或判别模型计算
  • 判别模型:直接计算(给出x的类j的概率)
  • 生成模型:计算(给定类j的x的概率)和(类j的概率),然后使用贝叶斯定理