CUBLAS - 矩阵元素取幂是否可能?

时间:2011-03-27 15:03:05

标签: matrix cuda cublas

我正在使用CUBLAS(Cuda Blas库)进行矩阵运算。

是否可以使用CUBLAS来实现矩阵项的取幂/均方根?

我的意思是,拥有2x2矩阵

1 4
9 16

我想要的是提升到给定值的功能,例如2

1 16
81 256

并计算均方根,例如

1 2
3 4

CUBLAS可以实现吗?我找不到适合这个目标的函数,但我先问这里开始编写我自己的内核。

1 个答案:

答案 0 :(得分:9)

所以这可能是你必须自己实现的东西,因为图书馆不会为你做这件事。 (根据BLAS 3级例程,可能有一些方法可以实现它 - 当然是矩阵元素的平方 - 但它会涉及昂贵的,否则不必要的矩阵向量乘法。我仍然不知道你是怎么做的d做squareroot操作)。原因是这些操作不是真正的线性代数程序;取每个矩阵元素的平方根并不真正对应任何基本的线性代数运算。

好消息是这些元素操作在CUDA中实现起来非常简单。同样,为了获得最佳性能,可以使用许多调优选项,但可以很容易地开始使用。

与矩阵加法运算一样,您将在此将NxM矩阵视为(N * M) - 长度向量;矩阵的结构对于这些元素运算无关紧要。因此,您将传入指向矩阵的第一个元素的指针,并将其视为单个N * M数列表。 (我假设你在这里使用float,因为你之前在谈论SGEMMSAXPY。)

内核是实现操作的CUDA代码的实际位,非常简单。现在,每个线程将计算一个数组元素的平方(或平方根)。 (这是否是最佳性能是你可以测试的)。所以内核看起来如下所示。我假设你做的事情就像B_ij =(A_ij)^ 2;如果你想在现场进行操作,例如A_ij =(A_ij)^ 2,你也可以这样做:

__global__ void squareElements(float *a, float *b, int N) {
    /* which element does this compute? */
    int tid = blockDim.x * blockIdx.x + threadIdx.x;

    /* if valid, squre the array element */
    if (tid < N) 
            b[tid] = (a[tid]*a[tid]);
}

__global__ void sqrtElements(float *a, float *b, int N) {
    /* which element does this compute? */
    int tid = blockDim.x * blockIdx.x + threadIdx.x;

    /* if valid, sqrt the array element */
    if (tid < N) 
            b[tid] = sqrt(a[tid]);   /* or sqrtf() */
}

请注意,如果您的错误略有增加,那么'sqrtf()'函数的最大误差为3 ulp(最后一个单位)明显更快。

如何调用这些内核将取决于您执行操作的顺序。如果您已经在这些matricies上进行了一些CUBLAS调用,那么您将需要在已经存在于GPU内存中的数组上使用它们。