我目前正在尝试使用bigmemory和irlba来实现一个非常大的矩阵的SVD。据我所知,我必须调整irlba包中的mult命令,我这样做了:
mult <- function(A, B, transpose=FALSE) {
if(is.null(dim(B))) B <- cbind(B)
if(transpose)
return(cbind((t(B) %*% A)[]))
cbind((A %*% B)[])
}
但是,使用irlba在bigmatrix上运行SVD不起作用:
irlbaObject <- irlba(big, nv = 10, mult = mult)
对于可复制性,这里是一个我想要进行SVD的大矩阵的例子:
big <- file("big.txt", open = "a")
replicate(20, {
x <- matrix(rnorm(100 * 100), nrow = 10)
write.table(x, file = 'big.txt', append = TRUE,
row.names = FALSE, col.names = FALSE)
})
big <- read.big.matrix("big.txt", separated = FALSE,
type = "double",
backingfile = "big.bk",
backingpath = "/tmp",
descriptorfile = "big.desc")
这是我收到的错误消息:
Error in A %*% B : requires numeric/complex matrix/vector arguments
Called from: cbind((A %*% B)[])
有谁知道如何避免此错误?
答案 0 :(得分:1)
这应该有效:
library(bigalgebra)
library(irlba)
## --> CHANGES HERE <--
setMethod("%*%", signature(x = "big.matrix", y = "numeric"),
function(x, y) x %*% as.matrix(y))
setMethod("%*%", signature(x = "numeric", y = "big.matrix"),
function(x, y) t(x) %*% y)
mult <- function(A, B) (A %*% B)[]
# Repdata
x <- matrix(rnorm(20 * 100 * 100), nrow = 20 * 10)
big <- as.big.matrix(x)
# Computation
irlbaObject <- irlba(big, nv = 10, mult = mult)
# Verification
svd <- svd(x, nu = 10, nv = 10)
plot(irlbaObject$u, svd$u)
plot(irlbaObject$v, svd$v)
注1:我认为irlba中的算法已经改变,现在只使用矩阵向量乘法。
注2:mult是一个不推荐使用的参数(它将在下一版本中消失)。
注3:我不确定这个解决方案是否会很快。如果你想要一个快速算法来计算部分SVD,试试package bigstatsr的函数big_randomSVD(免责声明:我是作者)。