线性回归“NA”仅针对最后一个系数进行估计

时间:2011-09-07 17:06:01

标签: r

我在R中运行摘要(lm(...))函数。当我打印系数时,我得到除最后一个变量之外的所有变量的估计值。最后一个变量我得到“NA”。

我尝试用另一列再次切换最后一列数据,最后一列中的任何内容都获得了“NA”,但其他所有内容都得到了估算。

关于数据的一点点:我有大约5个变量,每行有数据,然后我有12个季节性变量,例如,如果月份是1月份,1月份每天都有1,否则为0。对于2月变量,如果月份是2月份则为1,否则为0,依此类推。有谁知道在系数估算的最后一列会产生“NA”的是什么?所以我第一次运行它时,它是12月虚拟变量的系数。是因为我的每月虚拟变量?感谢

这是我可重复的例子。

dat<- data.frame(
         one<-c(sample(1000:1239)),
         two<-c(sample(200:439)),
         three<-c(sample(600:839)),
         Jan<-c(rep(1,20), rep(0,220)),
         Feb<-c(rep(0,20),rep(1,20),rep(0,200)),
         Mar<-c(rep(0,40),rep(1,20),rep(0,180)),
         Apr<-c(rep(0,60),rep(1,20),rep(0,160)),
         May<-c(rep(0,80),rep(1,20),rep(0,140)),
         Jun<-c(rep(0,100),rep(1,20),rep(0,120)),
         Jul<-c(rep(0,120),rep(1,20),rep(0,100)),
         Aug<-c(rep(0,140),rep(1,20),rep(0,80)),
         Sep<-c(rep(0,160),rep(1,20),rep(0,60)),
         Oct<-c(rep(0,180),rep(1,20),rep(0,40)),
         Nov<-c(rep(0,200),rep(1,20),rep(0,20)),
         Dec<-c(rep(0,220),rep(1,20)
      )

attach(dat)

summary(lm(one ~ two + three + Jan + Feb + 
          Mar + Apr + May + Jun + Jul + Aug + Sep + Oct + Nov + Dec))

2 个答案:

答案 0 :(得分:41)

您必须更多地考虑如何定义模型。

这是您的方法(为便于阅读而编辑):

> set.seed(101)
> dat<-data.frame(one=c(sample(1000:1239)),
                 two=c(sample(200:439)),
                 three=c(sample(600:839)),
                 Jan=c(rep(1,20),rep(0,220)),
                 Feb=c(rep(0,20),rep(1,20),rep(0,200)),
                 Mar=c(rep(0,40),rep(1,20),rep(0,180)),
                 Apr=c(rep(0,60),rep(1,20),rep(0,160)),
                 May=c(rep(0,80),rep(1,20),rep(0,140)),
                 Jun=c(rep(0,100),rep(1,20),rep(0,120)),
                 Jul=c(rep(0,120),rep(1,20),rep(0,100)),
                 Aug=c(rep(0,140),rep(1,20),rep(0,80)),
                 Sep=c(rep(0,160),rep(1,20),rep(0,60)),
                 Oct=c(rep(0,180),rep(1,20),rep(0,40)),
                 Nov=c(rep(0,200),rep(1,20),rep(0,20)),
                 Dec=c(rep(0,220),rep(1,20)))
> summary(lm(one ~ two + three + Jan + Feb + Mar + Apr + 
         May + Jun + Jul + Aug + Sep + Oct + Nov + Dec,
            data=dat))

答案:

[snip]
Coefficients: (1 not defined because of singularities)

注意这一行,它表明R(以及您选择使用的任何其他统计包)无法估计所有参数,因为预测变量并非都是线性独立的。

              Estimate Std. Error t value Pr(>|t|)    
(Intercept) 1149.55556   53.52499  21.477   <2e-16 ***

此处的截距表示所有预测变量为零时的预测值。在任何特定情况下,截距的解释取决于您如何参数化模型。您为月定义的虚拟变量并非全部线性独立; lm足够聪明,可以检测到这一点并丢弃一些无法识别的(线性相关的)预测变量。在这种情况下丢弃哪些特定预测变量的细节是模糊的和技术性的(您可能需要查看lm.fit函数,但您可能不想这样做)。在这种情况下,R决定抛弃December预测变量。因此,如果我们将所有预测变量(twothree和所有月份假人1月至11月)设置为零,那么当two = 0和{{three时,我们会得到预期值1}} = 0当月份不等于1月至11月的任何一个时 - 即12月的预期值。

two           -0.09670    0.06621  -1.460   0.1455    
three          0.02446    0.06666   0.367   0.7141    
Jan          -19.49744   22.17404  -0.879   0.3802    
Feb          -28.22652   22.27438  -1.267   0.2064    
Mar           -6.05246   22.25468  -0.272   0.7859    
Apr           -5.60192   22.41204  -0.250   0.8029    
May          -13.19127   22.34289  -0.590   0.5555    
Jun          -19.69547   22.14274  -0.889   0.3747    
Jul          -44.45511   22.20837  -2.002   0.0465 *  
Aug           -2.08404   22.26202  -0.094   0.9255    
Sep          -10.13351   22.10252  -0.458   0.6470    
Oct          -31.80482   22.33335  -1.424   0.1558    
Nov          -20.35348   22.09953  -0.921   0.3580    
Dec                 NA         NA      NA       NA    
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1 

Residual standard error: 69.81 on 226 degrees of freedom
Multiple R-squared: 0.04381,    Adjusted R-squared: -0.01119 
F-statistic: 0.7966 on 13 and 226 DF,  p-value: 0.6635 

现在再做一次,这次设置一个模型公式,使用-1来丢弃拦截术语(我们重置随机种子以获得再现性):

> set.seed(101)
> dat1 <- data.frame(one=c(sample(1000:1239)),two=c(sample(200:439)),
      three=c(sample(600:839)),
                    month=factor(rep(month.abb,each=20),levels=month.abb))
> summary(lm(one ~ two + three + month-1, data=dat1))

    Coefficients:
           Estimate Std. Error t value Pr(>|t|)    
two        -0.09670    0.06621  -1.460    0.146    
three       0.02446    0.06666   0.367    0.714    

twothree的估算值与以前相同。

monthJan 1130.05812   52.79625  21.404   <2e-16 ***
monthFeb 1121.32904   55.18864  20.318   <2e-16 ***
monthMar 1143.50310   53.59603  21.336   <2e-16 ***
monthApr 1143.95365   54.99724  20.800   <2e-16 ***
monthMay 1136.36429   53.38218  21.287   <2e-16 ***
monthJun 1129.86010   53.85865  20.978   <2e-16 ***
monthJul 1105.10045   54.94940  20.111   <2e-16 ***
monthAug 1147.47152   54.57201  21.027   <2e-16 ***
monthSep 1139.42205   53.58611  21.263   <2e-16 ***
monthOct 1117.75075   55.35703  20.192   <2e-16 ***
monthNov 1129.20208   53.54934  21.087   <2e-16 ***
monthDec 1149.55556   53.52499  21.477   <2e-16 ***

12月的估计值与上面的截距估计值相同。其他月份的参数估计值等于(截距+前值)。 p 值不同,因为它们的含义已经改变。以前,它们是对每月与12月份差异的测试;现在它们是对每个月与基线值零的差异的测试。

答案 1 :(得分:14)

你得到最后一个变量的NA,因为它线性地依赖于其他11个变量。 R的lm函数(以及所有正确构造的R回归函数)将自动为您排除线性相关变量。这是在model.matrix函数中处理的。如果所有其他变量都是0,那么12月将是1.它与排除因子​​的最低项有关,但不完全相同。

可能有更好的方法来做到这一点。

从12月份获取信息的位置? ......这是'(拦截)'一词。如果你想要按照你的预期标记所有级别,尝试在公式中添加-1或+0,你会看到12月从雾中神奇地出现。