强制某些参数在lm()中具有正系数

时间:2014-12-02 08:26:53

标签: r regression linear-regression glm lm

我想知道如何约束lm()中的某些参数以获得正系数。有一些包或函数(例如display)可以使所有系数和截距为正。

例如,在此示例中,我只想强制x1x2具有正系数。

    x1=c(NA,rnorm(99)*10)
    x2=c(NA,NA,rnorm(98)*10)
    x3=rnorm(100)*10
    y=sin(x1)+cos(x2)-x3+rnorm(100)

    lm(y~x1+x2+x3)

    Call:
      lm(formula = y ~ x1 + x2 + x3)       
    Coefficients:
      (Intercept)           x1           x2           x3  
    -0.06278      0.02261     -0.02233     -0.99626

我在包nnnpls()中尝试过功能nnls,它可以轻松控制系数符号。遗憾的是,由于数据中NA的问题,我无法使用它,因为此功能不允许NA

我看到函数glmc()可用于应用约束,但我无法使其工作。

有人能让我知道我该怎么办?

3 个答案:

答案 0 :(得分:3)

You can use package penalized

set.seed(1)

x1=c(NA,rnorm(99)*10)
x2=c(NA,NA,rnorm(98)*10)
x3=rnorm(100)*10
y=sin(x1)+cos(x2)-x3+rnorm(100)
DF <- data.frame(x1,x2,x3,y)

lm(y~x1+x2+x3, data=DF)
#Call:
#lm(formula = y ~ x1 + x2 + x3, data = DF)
#
#Coefficients:
#(Intercept)           x1           x2           x3  
#   -0.02438     -0.01735     -0.02030     -0.98203  

这相同:

library(penalized)

mod1 <- penalized(y, ~ x1 + x2 + x3, ~1, 
                  lambda1=0, lambda2=0, positive = FALSE, data=na.omit(DF))
coef(mod1)
#(Intercept)          x1          x2          x3 
#-0.02438357 -0.01734856 -0.02030120 -0.98202831 

如果将x1x2的系数约束为正,则它们变为零(如预期的那样):

mod2 <- penalized(y, ~ x1 + x2 + x3, ~1, 
                  lambda1=0, lambda2=0, positive = c(T, T, F), data=na.omit(DF))
coef(mod2)
#(Intercept)          x3 
#-0.03922266 -0.98011223 

答案 1 :(得分:2)

老问题,但因为它仍然引起关注:

您可以使用包colf来实现此目的。它目前提供两个最小二乘非线性优化器,即nlsnlxb

library(colf)

colf_nlxb(y ~ x1 + x2 + x3, data = DF, lower = c(-Inf, 0, 0, -Inf))
#nlmrt class object: x 
#residual sumsquares =  169.53  on  98 observations
#    after  3    Jacobian and  3 function evaluations
#                name      coeff SEs tstat pval gradient JSingval
#1 param_X.Intercept. -0.0066952  NA    NA   NA   3.8118 103.3941
#2           param_x1  0.0000000  NA    NA   NA 103.7644  88.7017
#3           param_x2  0.0000000  NA    NA   NA   0.0000   9.8032
#4           param_x3 -0.9487088  NA    NA   NA 330.7776   0.0000

colf_nls(y ~ x1 + x2 + x3, data = DF, lower = c(-Inf, 0, 0, -Inf))
#Nonlinear regression model
#  model: y ~ param_X.Intercept. * X.Intercept. + param_x1 * x1 + param_x2 *        
#  x2 + param_x3 * x3
#   data: model_ingredients$model_data
#param_X.Intercept.           param_x1           param_x2           param_x3 
#           -0.0392             0.0000             0.0000            -0.9801 
# residual sum-of-squares: 159
# 
#Algorithm "port", convergence message: both X-convergence and relative convergence (5)

您可以设置lower和/或upper边界,为每个系数指定限制。

答案 2 :(得分:0)

尽管是一个古老的问题,但它可能会有用:

使用ConsReg https://cran.r-project.org/web/packages/ConsReg/index.html软件包,您可以解决此类问题

您可以设置边界限制(上下限),以及系数内的限制,例如beta1> beta2,在某些情况下可能非常有用。