ANN模型中的特征选择/提取以进行回归

Question

我正在尝试使用15个输入参数来拟合ANN模型以进行回归。 其中一些参数彼此相关，并且关系不是线性的。可以说，输入参数之一可以表示为其他参数的非线性函数。但是我不完全了解这些关系，因为我缺乏领域知识。有没有办法在输入参数之间找到这些关系？

我试图找到与熊猫相关矩阵的这些关系，由于得出了两个参数之间唯一的线性相关性，因此无法得出任何结论。

谢谢。

Answer 1

查找输入要素之间的非线性关系的一种方法是遵循类似于计算方差膨胀因子（VIF）的方法，该方法用于找出输入要素之间的线性关系。我们需要的修改是，无需运行普通最小二乘（OLS）回归来找出输入要素之间的线性关系，而是可以使用神经网络代替OLS，后者可捕获要素之间的非线性关系

因此，您的 f 将是常规设置中用于计算VIF的OLS，在我们的示例中将是Neural Network，事实证明它可以有效地捕获非线性关系。

在这种情况下，为了找出VIF而不是，我们可以用神经网络的准确性代替它。

最后，对于您的更高的VIF变量，您可以得出结论，它们与其他功能高度相关。

希望这会有所帮助！