PCA得分与原始变量的最小二乘拟合

时间:2011-04-08 16:16:50

标签: r regression spss pca

我有100个变量,我想使用变量var15-v25进行因子分析。为此,我首先将变量提取到另一个对象(比如f),&然后运行主成分分析。

现在,我想将PCA分数与原始数据集合并,以使用PCA分数作为预测因子运行回归。

任何人都可以建议我合并这两个数据集的方法。我使用的代码如下:

spss_data_factor <- sqldf("SELECT Respondent_Serial,Q4_01_Q4,Q4_02_Q4,Q4_03_Q4,Q4_04_Q4,Q4_05_Q4,Q4_06_Q4,Q4_07_Q4,Q4_08_Q4,Q4_09_Q4,Q4_10_Q4 FROM spss_data_rel")
f <- princomp(spss_data_factor1, cor = TRUE)
summary(f, loadings=TRUE)
f$scores[, 1:5]

2 个答案:

答案 0 :(得分:4)

请避免使用R基础软件包中的名称 - factor是保留的。它会工作得很好,但它可能会使你在某些开发阶段感到困惑......而你的factor不是一个文件,它是princomp类的R对象。

无论如何,您想要将因子得分定义为预测变量的回归模型?一块蛋糕......并且不需要合并:

fa <- princomp(mtcars, cor=TRUE)
fa_scores <- fa$scores
fit <- lm(mtcars$hp ~ fa_scores)
summary(fit)

Call:
lm(formula = mtcars$hp ~ fa_scores)

Residuals:
       Min         1Q     Median         3Q        Max 
-2.521e-14 -7.825e-15 -2.416e-15  5.622e-15  4.329e-14 

Coefficients:
                   Estimate Std. Error    t value Pr(>|t|)    
(Intercept)       1.467e+02  2.862e-15  5.125e+16   <2e-16 ***
fa_scoresComp.1  -2.227e+01  1.113e-15 -2.000e+16   <2e-16 ***
fa_scoresComp.2  -1.679e+01  1.758e-15 -9.549e+15   <2e-16 ***
fa_scoresComp.3   9.449e+00  3.614e-15  2.614e+15   <2e-16 ***
fa_scoresComp.4  -4.567e+00  5.513e-15 -8.285e+14   <2e-16 ***
fa_scoresComp.5  -3.644e+01  6.055e-15 -6.019e+15   <2e-16 ***
fa_scoresComp.6  -4.821e+00  6.222e-15 -7.747e+14   <2e-16 ***
fa_scoresComp.7  -1.010e-01  7.783e-15 -1.297e+13   <2e-16 ***
fa_scoresComp.8   1.501e+01  8.164e-15  1.838e+15   <2e-16 ***
fa_scoresComp.9  -3.886e+01  1.031e-14 -3.768e+15   <2e-16 ***
fa_scoresComp.10  1.672e+01  1.255e-14  1.333e+15   <2e-16 ***
fa_scoresComp.11 -1.731e+01  1.928e-14 -8.979e+14   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 1.619e-14 on 20 degrees of freedom
Multiple R-squared:     1,  Adjusted R-squared:     1 
F-statistic: 5.053e+31 on 11 and 20 DF,  p-value: < 2.2e-16 

您可能还希望将原始数据集转换为矩阵,以便在每个响应矩阵列上执行ncol(mtcars)回归。 lm函数支持response ~ terms公式,其中response可以是矩阵。见?lm

  

如果响应是矩阵线性模型   用最小二乘法分开安装   到矩阵的每一列。

所以,你可以这样做:

fit2 <- lm(as.matrix(mtcars) ~ fa_scores)
summary(fit2) # handle with care! =)

我希望这有用......


无论如何,如果您想进行因子分析,请参阅this link。您应该安装William Revelle的psych包。

答案 1 :(得分:0)

谢谢aL3xa!我找到了解决方案的答案。我把它放在这里,因为有人可能会发现它有用。

## Factor Analysis
library(psych)
spss_data_fac=read.csv("D:\\Arijit\\spss_data_rel_01.csv")
fa.parallel(spss_data_fac[,40:49])
spss_data_fac_01=factanal(spss_data_fac[,40:49],factors=2,scores="regression",rotation="promax")
spss_data_fac_01$scores
## Factor Analysis factors are used for logistic regression
spss_dat_reg=glm(spss_data_fac$Q8~spss_data_fac_01$scores+spss_data_fac$Q14)
summary(spss_dat_reg)

此致 甲