版本空间中的假设总数

Question

我对机器学习有疑问..

在查看任何培训示例之前，版本空间的大小是多少。考虑我有10个属性，我使用约束的结合作为表示。属性有两个值，分别为“是”或“否”。

Answer 1

如果你有K类，那么版本空间就是可能将所有可能的attirbute值拆分为K个不相交子集的次数。

在你的情况下：

• 10个属性
• 每个属性2个可能的值
• 有2 ^ 10 = 1024个可能的点
• 有K ^ 1024个可能的假设（你可以考虑它们，因为用K值之一标记每个点）。

例如，对于二进制情形K = 2，我们在版本空间中有2 ^ 1024个假设。

如果你只考虑可能的假设的子集（通过对它们的表示施加一些约束）而不是这个数字更小，那么对实际数字的分析将需要深入了解“表达”如何是你的约束假设的细节。