核心PCA与Kernlab和结肠癌分类数据集

Question

我需要在colon-­‐cancer数据集上执行内核PCA：

然后

我需要用PCA数据绘制主成分的数量与分类精度。

对于第一部分，我在R中使用kernlab如下（让功能数量为2，然后我会从2-100改变它）

kpc <- kpca(~.,data=data[,-1],kernel="rbfdot",kpar=list(sigma=0.2),features=2)

我很难理解如何使用此PCA数据进行分类（我可以使用任何分类器进行SVM）

编辑：我的问题是如何将PCA的输出提供给分类器

数据看起来像这样（清理数据）

未清理的原始数据如下所示

Answer 1

我将在此向您展示如何使用kpca包的kernlab函数的一个小示例：

我检查了结肠癌文件，但需要进行一些清洁才能使用它，所以我将使用随机数据集向您展示如何：

假设以下数据集：

y <- rep(c(-1,1), c(50,50))
x1 <- runif(100)
x2 <- runif(100)
x3 <- runif(100)
x4 <- runif(100)
x5 <- runif(100)
df <- data.frame(y,x1,x2,x3,x4,x5)

> df
     y          x1          x2          x3         x4          x5
1   -1 0.125841208 0.040543611 0.317198114 0.40923767 0.635434021
2   -1 0.113818719 0.308030825 0.708251147 0.69739496 0.839856000
3   -1 0.744765204 0.221210582 0.002220568 0.62921565 0.907277935
4   -1 0.649595597 0.866739474 0.609516644 0.40818013 0.395951297
5   -1 0.967379006 0.926688915 0.847379556 0.77867315 0.250867680
6   -1 0.895060293 0.813189446 0.329970821 0.01106764 0.123018797
7   -1 0.192447416 0.043720717 0.170960540 0.03058768 0.173198036
8   -1 0.085086619 0.645383728 0.706830885 0.51856286 0.134086770
9   -1 0.561070374 0.134457795 0.181368729 0.04557505 0.938145228

要运行您需要执行的pca：

kpc <- kpca(~.,data=data[,-1],kernel="rbfdot",kpar=list(sigma=0.2),features=4)

与使用它的方式相同。但是，我需要指出的是，features参数是主要组件的数量，而不是y变量中的类数。也许你已经知道这一点，但是拥有2000个变量并且只产生2个主要组件可能不是你想要的。您需要通过检查特征值仔细选择此数字。在你的情况下，我可能会选择100个主成分，并根据最高特征值选择前n个主成分。在运行上一个代码之后，让我们在随机示例中看到这一点：

为了看到特征值：

> kpc@eig 
    Comp.1     Comp.2     Comp.3     Comp.4 
0.03756975 0.02706410 0.02609828 0.02284068 

在我的情况下，所有组件都具有极低的特征值，因为我的数据是随机的。在你的情况下，我认为你会变得更好。您需要选择n个具有最高值的组件。值为零表示组件不解释任何方差。 （仅为了演示，我将在下面的svm中使用所有这些。）

要访问主要组件，即PCA输出，请执行以下操作：

> kpc@pcv
                [,1]        [,2]         [,3]        [,4]
  [1,] -0.1220123051  1.01290883 -0.935265092  0.37279158
  [2,]  0.0420830469  0.77483019 -0.009222970  1.14304032
  [3,] -0.7060568260  0.31153129 -0.555538694 -0.71496666
  [4,]  0.3583160509 -0.82113573  0.237544936 -0.15526000
  [5,]  0.1158956953 -0.92673486  1.352983423 -0.27695507
  [6,]  0.2109994978 -1.21905573 -0.453469345 -0.94749503
  [7,]  0.0833758766  0.63951377 -1.348618472 -0.26070127
  [8,]  0.8197838629  0.34794455  0.215414610  0.32763442
  [9,] -0.5611750477 -0.03961808 -1.490553198  0.14986663
  ...
  ...

这返回4列的矩阵，即作为PCA输出的特征参数的数量，即主要分量。 kerlab使用S4方法调度系统，这就是您在@使用kpc@pcv的原因。

然后，您需要使用上述矩阵以下列方式输入svm：

svmmatrix <- kpc@pcv
library(e1071)
svm(svmmatrix, as.factor(y))

Call:
svm.default(x = svmmatrix, y = as.factor(y))

Parameters:
   SVM-Type:  C-classification 
 SVM-Kernel:  radial 
       cost:  1 
      gamma:  0.25 

Number of Support Vectors:  95

那就是它！我在互联网上找到了一个关于pca的非常好的解释here，以防你或其他任何阅读此内容的人想要了解更多信息。