一个小的数据集为何会有高方差？

Question

为什么小数据集的方差高？我们的教授曾经说过。我只是不明白。任何帮助将不胜感激。

谢谢。

Answer 1

在我们进入职业生涯之时，我们每个人都已经接触到了更大的视觉数据集，而后者是AI研究人员可用的最大数据集。最重要的是，我们的声音，气味，触觉和味觉数据全部来自我们的外部感官。总而言之，人类在人类世界中有很多背景。我们对人类处境有一个普遍的常识性理解。在分析数据集时，我们将数据本身与过去的知识结合起来，以便进行分析。

典型的机器学习算法没有任何一个-仅包含您向其显示的数据，并且该数据必须为标准格式。如果数据中没有模式，则算法将无法学习它。这就是为什么在给定较小数据集时更容易出错的原因。