Question

我对第一个主要方向感到有些困惑。假设我在二维欧几里德空间中有三个点：（1,1），（2,2）和（3,3）我想计算第一个主成分。

首先我看到中心是（2,2）因此我将所有点移动到原点。现在（2,2）与（0,0）相似，（1,1）是（-1，-1），（3,3）是（1,1）。这是平均转变。现在，我知道第一个主要组件是来自matlab的转置（（sqrt（2）/ 2，sqrt（2）/ 2））。但是，它如何计算呢？这是什么意思？

您是否计算协方差矩阵然后找到特征值然后找到特征向量。这个特征向量是方向？然后你规范化了吗？

所以我们在（-1，-1），（0,0）和（1,1）的平均移位之后得到了我们的点。我们现在计算协方差矩阵

c（x，x）c（x，y）

c（y，x）c（y，y）

是[0 1;然后，我们查看最大特征值1并计算特征向量，即[1; 1]。然后我们归一化除以sqrt（1 ^ 2 + 1 ^ 2）？

Answer 1

你写的步骤是正确的，但你误解了一些概念。 “均值漂移”部分没有问题但你对协方差矩阵有误。由于原始数据是2D，因此协方差矩阵应该在这两个维度之间，包括所有六个值，即x轴为（-1,0,1），y轴为（-1,0,1）。所以[0 1; 0 1]不是正确答案。

假设我们已经有了协方差矩阵，我们可以在matlab中使用svd函数来获得特征向量和特征值。具有最大特征值的特征向量不是方向，而是表示数据的新基础。因此，如果将此特征向量与原始数据相乘，则可以在新坐标系中获得新数据表示。

我在matlab中编写代码使我的描述易于理解。

clear;
% Original data
x = [1,1;2,2;3,3];
x = x';
x = x - repmat(mean(x, 2), 1, size(x, 2));
figure('name','original data')
plot(x(1,:),x(2,:),'*')
axis([-5 5 -5 5])
% PCA rotate data
sigma = x * x' / size(x, 2);
[U, S, V] = svd(sigma);
xRot = U' * x;
figure('name','PCA data rotation')
plot(xRot(1,:),xRot(2,:),'*')
axis([-5 5 -5 5])

第3个主要成分在一条线上

1 个答案: