Question

我有一个函数，可以从给定矩阵的行（或列）中计算基本的汇总统计信息，现在我也尝试将此函数与bigstatsr :: FBM一起使用（我知道使用列应该更有效）。我想将行/列存储在向量中的原因是我想使用std :: nth_element计算分位数。如果有另一种方法可以不用向量，我将同样高兴。

这是我用于常规矩阵的代码。

// [[Rcpp::plugins(cpp11)]]
// [[Rcpp::depends(RcppEigen)]]
#include <RcppEigen.h>

using namespace Rcpp;

// [[Rcpp::export]]
Eigen::MatrixXd summaryC(Eigen::MatrixXd x,int nrow) {
  Eigen::MatrixXd result(nrow, 5);
  int indices[6] = {-1, 0,  249,  500,  750, 999};

  for (int i = 0; i < nrow; i++) {
    Eigen::VectorXd v = x.row(i);
    for (int q = 0; q < 5; ++q) {
      std::nth_element(v.data() + indices[q] + 1,
                       v.data() + indices[q+1],
                       v.data() + v.size());
      result(i,q) = v[indices[q+1]];
    }
  }
return result;
}

/*** R 
x <- matrix(as.numeric(1:1000000), ncol = 1000)
summaryC(x = x, nrow = 1000)
***/

但是，由于我没有完全掌握FBM-Pointer的工作方式的复杂性，因此我很难用FBM做到这一点。

我尝试了以下操作，但未成功：

// [[Rcpp::depends(BH, bigstatsr, RcppEigen)]]
// [[Rcpp::plugins(cpp11)]]
#include <bigstatsr/BMAcc.h>
#include <RcppEigen.h>



// [[Rcpp::export]]
Eigen::MatrixXd summaryCbig(Environment fbm,int nrow, Eigen::VecttorXi ind_col) {

  Eigen::MatrixXd result(nrow, 5);

  XPtr<FBM> xpMat = fbm["address"];
  BMAcc<double> macc(xpMat);

  int indices[6] = {-1, 0,  249,  500,  750, 999};

  for (int i = 0; i < nrow; i++) {

    Eigen::VectorXd v = macc.row(i); // this does not work
    Eigen::VectorXd v = macc(i,_); // this does not work
    SubBMAcc<double> maccr(XPtr, i, ind_col -1); // This did not work with Eigen::VectorXi, but works with const NumericVector&
    Eigen::VectorXd v = maccr // this does not work even for appropriate ind_col

    for (int q = 0; q < 5; ++q) {
      std::nth_element(v.data() + indices[q] + 1,
                       v.data() + indices[q+1],
                                         v.data() + v.size());
      macc(i,q) = v[indices[q+1]];
    }
  }
}
/*** R 
x <- matrix(as.numeric(1:1000000), ncol = 1000)
summaryCbig(x = x, nrow = 1000, ind_col = 1:1000)

***/

任何帮助将不胜感激，谢谢！

更新-big_apply-方法

我用两个大小不同的矩阵X1和X2实施了两次该方法。 X1的代码：

X1 <- FBM(1000, 1000, init 1e6)
X2 <- FBM(10000, 10000, init = 9999)
library(bigstatsr)
microbenchmark::microbenchmark(
  big_apply(X, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X1[ind, ])
  }, a.combine = "rbind", ind = rows_along(X), ncores = nb_cores(), block.size = 500),

  big_apply(X, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X1[ind, ])
  }, a.combine = "rbind", ind = rows_along(X), ncores = 1, block.size = 500),

  times = 5
)

使用X1和block.size = 500时，使用4个内核而不是1个内核会使我的PC上的任务慢5-10倍（不幸的是，使用4 CPU和使用Windows）。使用更大的矩阵X2并保留默认值为block.size的时间比使用非并行版本的4核要长10倍。

X2的结果

       min       lq      mean    median        uq       max neval
 16.149055 19.13568 19.369975 20.139363 20.474103 20.951676     5
  1.297259  2.67385  2.584647  2.858035  2.867537  3.226552     5

Answer 1

假设您有

library(bigstatsr)
X <- FBM(1000, 1000, init = 1:1e6)

我不会重新发明轮子并使用：

big_apply(X, a.FUN = function(X, ind) {
  matrixStats::rowQuantiles(X[ind, ])
}, a.combine = "rbind", ind = rows_along(X), ncores = nb_cores(), block.size = 500)

明智地选择block.size（行数）。如果要将R（cpp）函数应用于big_apply()的块，函数FBM非常有用。

编辑：当然，由于并行性的开销（通常为1-3秒），因此对于小型矩阵，并行性会变慢。查看X1和X2的结果：

library(bigstatsr)
X1 <- FBM(1000, 1000, init = 1e6)
microbenchmark::microbenchmark(
  PAR = big_apply(X1, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X[ind, ])
  }, a.combine = "rbind", ind = rows_along(X1), ncores = nb_cores(), block.size = 500),

  SEQ = big_apply(X1, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X[ind, ])
  }, a.combine = "rbind", ind = rows_along(X1), ncores = 1, block.size = 500),

  times = 5
)

Unit: milliseconds
 expr        min        lq       mean    median         uq        max neval cld
  PAR 1564.20591 1602.0465 1637.77552 1629.9803 1651.04509 1741.59974     5   b
  SEQ   68.92936   69.1002   76.70196   72.9173   85.31751   87.24543     5  a 

X2 <- FBM(10000, 10000, init = 9999)
microbenchmark::microbenchmark(
  PAR = big_apply(X2, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X[ind, ])
  }, a.combine = "rbind", ind = rows_along(X2), ncores = nb_cores(), block.size = 500),

  SEQ = big_apply(X2, a.FUN = function(X, ind) {
    matrixStats::rowQuantiles(X[ind, ])
  }, a.combine = "rbind", ind = rows_along(X2), ncores = 1, block.size = 500),

  times = 5
)

Unit: seconds
 expr       min        lq      mean    median        uq       max neval cld
  PAR  4.757409  4.958869  5.071982  5.083381  5.218098  5.342153     5  a 
  SEQ 10.842828 10.846281 11.177460 11.360162 11.416967 11.421065     5   b

矩阵越大，您从并行性中获得的收益就越多。

如何在Rcpp中对bigstatsr :: FBM的行或列进行子集并将其存储在向量中？

1 个答案: