R中的最小二乘优化(矩阵)

时间:2015-07-08 19:15:18

标签: r optimization regression least-squares

昨天我在R中询问question关于最小二乘优化的问题turned out lm函数是我正在寻找的东西。

另一方面,现在我有另一个最小二乘优化问题,我想知道lm是否也可以解决这个问题,或者如果没有,它是如何在R中处理的。

我有固定的矩阵 B (维度为nxm)和 V (维度为nxn),我正在寻找一个 m -long vector u 这样

       sum( ( V - ( B %*% diag(u) %*% t(B)) )^2 )

被最小化。

1 个答案:

答案 0 :(得分:6)

1)lm.fit 使用

这一事实

vec(AXA')=(A⊗A)vec(X)

这样:

k <- ncol(A)
AA1 <- kronecker(A, A)[, c(diag(k)) == 1]
lm.fit(AA1, c(V))

以下是一个自包含的示例:

# test data
set.seed(123)
A <- as.matrix(BOD)
u <- 1:2
V <- A %*% diag(u) %*% t(A) + rnorm(36)

# solve
k <- ncol(A)
AA1 <- kronecker(A, A)[, c(diag(k)) == 1]
fm1 <- lm.fit(AA1, c(V))

大致给出原始系数1:2:

> coef(fm1)
      x1       x2 
1.011206 1.999575 

2)nls 我们可以像这样交替使用nls

fm2 <- nls(c(V) ~ c(A %*% diag(x) %*% t(A)), start = list(x = numeric(k)))

为上述示例提供以下内容:

> fm2
Nonlinear regression model
  model: c(V) ~ c(A %*% diag(x) %*% t(A))
   data: parent.frame()
   x1    x2 
1.011 2.000 
 residual sum-of-squares: 30.52

Number of iterations to convergence: 1 
Achieved convergence tolerance: 1.741e-09

更新:更正和第二种解决方案。