使用具有大量固定效果的回归快速预测

Question

我想使用R来估算具有大量固定效应的回归。

然后我使用该回归来使用测试数据集进行预测。

然而，这需要非常快速地完成，因为我想引导我的标准错误并多次这样做。

我知道lfe中的R包可以执行此操作。例如

reg=felm(Y~1|F1 + F2,data=dat)

如果dat是数据，F1,F2是分类变量列（要包含的固定效果）。

然而，

predict(reg,dat2)不适用于lfe包...正如已经讨论过here。

不幸的是lm太慢了，因为我有很多固定效果。

Answer 1

加快这一速度的方法是提取系数并手动执行矩阵运算。 E.g：

xtrain <- data.frame(x1=jitter(1:1000), x2=runif(1000), x3=rnorm(1000))
xtest <- data.frame(x1=jitter(1:1000), x2=runif(1000), x3=rnorm(1000))
y <- -(1:1000)
fit <- lm(y ~ x1 + x2 + x3, data=xtrain)

beta <- matrix(coefficients(fit), nrow=1)
xtest_mat <- t(data.matrix(cbind(intercept=1, xtest)))
predictions <- as.vector(beta %*% xtest_mat)

library(microbenchmark)
microbenchmark(as.vector(beta %*% xtest_mat),
               predict(fit, newdata = xtest))

Unit: microseconds
                          expr     min       lq      mean  median      uq      max neval cld
 as.vector(beta %*% xtest_mat)   8.140  10.0690  13.12173  12.372  15.852   26.292   100  a 
 predict(fit, newdata = xtest) 635.413 657.2515 745.94840 673.009 763.166 2363.065   100   b

所以你可以看到直接矩阵乘法比预测函数快50倍。