我在测试Logistic回归，高斯朴素贝叶斯，随机森林和多层感知器等不同算法时，通过简单地减去均值并除以标准差来对原始数据进行归一化。所有这些都不是必需的，但我只是想保持一致。但是，特征的相关矩阵在归一化前后会发生变化。在决定选择哪些功能来避免输入数据冗余时，应该考虑同时考虑两个相关矩阵还是仅考虑归一化之后的一个矩阵，因为这是将数据直接馈送到机器学习方法中吗？
答案 0 :(得分：1)
我认为相关矩阵在“适当”归一化之后应该保持不变。
演示：
In [107]: df = pd.DataFrame(np.random.rand(6,6)) * 100
在归一化之前让我们保存Pearson相关矩阵
In [108]: corr1 = df.corr()
使用sklearn.preprocessing.StandardScaler进行标准化：
In [109]: from sklearn.preprocessing import StandardScaler
In [110]: scale = StandardScaler()
In [111]: r = scale.fit_transform(df)
在归一化之后保存Pearson相关矩阵
In [112]: corr2 = pd.DataFrame(r).corr()
比较保存的相关矩阵：
In [114]: np.allclose(corr1, corr2)
Out[114]: True