使用固定的r2模拟逻辑回归的数据

时间:2018-03-15 13:09:18

标签: r logistic-regression variance

我想模拟逻辑回归的数据,我可以事先指定其解释的方差。看看下面的代码。我模拟了四个自变量,并指定每个logit系数的大小应为log(2)= 0.69。这很好用,解释的方差(我报告Cox& Snell的r2)是0.34。

但是,我需要指定回归系数,使得预先指定的r2将来自回归。因此,如果我想产生一个让我们说的精确到0.1的r2。如何指定系数?我有点挣扎......

# Create independent variables
sigma.1 <- matrix(c(1,0.25,0.25,0.25,   
                0.25,1,0.25,0.25,   
                0.25,0.25,1,0.25,    
                0.25,0.25,0.25,1),nrow=4,ncol=4)
mu.1 <- rep(0,4) 
n.obs <- 500000 

library(MASS)
sample1 <- as.data.frame(mvrnorm(n = n.obs, mu.1, sigma.1, empirical=FALSE))

# Create latent continuous response variable 
sample1$ystar <- 0 + log(2)*sample1$V1 + log(2)*sample1$V2 + log(2)*sample1$V3 + log(2)*sample1$V4

# Construct binary response variable
sample1$prob <- exp(sample1$ystar) / (1 + exp(sample1$ystar))
sample1$y <- rbinom(n.obs,size=1,prob=sample1$prob)

# Logistic regression
logreg <- glm(y ~ V1 + V2 + V3 + V4, data=sample1, family=binomial)
summary(logreg)

输出结果为:

Call:
glm(formula = y ~ V1 + V2 + V3 + V4, family = binomial, data = sample1)

Deviance Residuals: 
    Min       1Q   Median       3Q      Max  
-3.7536  -0.7795  -0.0755   0.7813   3.3382  

Coefficients:
             Estimate Std. Error z value Pr(>|z|)    
(Intercept) -0.002098   0.003544  -0.592    0.554    
V1           0.691034   0.004089 169.014   <2e-16 ***
V2           0.694052   0.004088 169.776   <2e-16 ***
V3           0.693222   0.004079 169.940   <2e-16 ***
V4           0.699091   0.004081 171.310   <2e-16 ***
---
Signif. codes:  0 ‘***’ 0.001 ‘**’ 0.01 ‘*’ 0.05 ‘.’ 0.1 ‘ ’ 1

(Dispersion parameter for binomial family taken to be 1)

Null deviance: 693146  on 499999  degrees of freedom
Residual deviance: 482506  on 499995  degrees of freedom
AIC: 482516

Number of Fisher Scoring iterations: 5

而Cox和Snell的r2给出了:

library(pscl)
pR2(logreg)["r2ML"]

> pR2(logreg)["r2ML"]
 r2ML 
0.3436523 

2 个答案:

答案 0 :(得分:3)

如果你在ystat.r中添加一个随机误差项,然后使用ystat.r,你就可以调整标准差,直到它满足你的规格。

sample1$ystar.r <- sample1$ystar+rnorm(n.obs, 0, 3.8)  # tried a few values
sample1$prob <- exp(sample1$ystar.r) / (1 + exp(sample1$ystar.r))
sample1$y <- rbinom(n.obs,size=1,prob=sample1$prob)
logreg <- glm(y ~ V1 + V2 + V3 + V4, data=sample1, family=binomial)
summary(logreg)  # the estimates "shrink"
pR2(logreg)["r2ML"]
#-------
     r2ML 
0.1014792

答案 1 :(得分:1)

R平方(及其变化)是一个随机变量,因为它取决于您的模拟数据。如果您使用完全相同的参数多次模拟数据,则每次最有可能获得不同的R平方值。因此,仅通过控制参数就无法生成R平方正好为0.1的模拟。

另一方面,由于它是随机变量,您可以从条件分布中模拟数据(在R平方的固定值上进行调节),但是您需要找出这些分布的外观喜欢(数学可能在这里变得非常丑陋,cross validated更适合这部分。)