Question

我想在GPU上的大型浮点数上做基本的数学运算（加法，减法，除法，乘法），C ++中是否有可以实现此目的的库？

例如，在伪代码中：

A = [1,2,3,...]
B = [2,3,9,...]
C = A+B //[3,5,12,...]
D = A-B //[-1,-1,-6,...]
E = A/B //[0.5,0.6,0.3,...]
F = A*B //[2,6,27,...]

Answer 1

查看Boost.Compute库。它是一个类似C ++ STL的库，允许您在GPU（或任何OpenCL兼容设备）上执行许多操作。与Thrust不同，它不仅限于NVIDIA GPU。

源代码在这里：https://github.com/boostorg/compute

Answer 2

Thrust

此示例来自其网站：

#include <thrust/host_vector.h>
#include <thrust/device_vector.h>
#include <thrust/generate.h>
#include <thrust/sort.h>
#include <thrust/copy.h>
#include <cstdlib>

int main(void)
{
    // generate 32M random numbers on the host
    thrust::host_vector<int> h_vec(32 << 20);
    thrust::generate(h_vec.begin(), h_vec.end(), rand);

    // transfer data to the device
    thrust::device_vector<int> d_vec = h_vec;

    // sort data on the device (846M keys per second on GeForce GTX 480)
    thrust::sort(d_vec.begin(), d_vec.end());

    // transfer data back to host
    thrust::copy(d_vec.begin(), d_vec.end(), h_vec.begin());

    return 0;
}

他们的saxpy example更接近你的要求;看看片段：

thrust::transform(X.begin(), X.end(), Y.begin(), Y.begin(), saxpy_functor(A));

Answer 3

VexCL是另一个可以帮助您的图书馆。从v1.0.0开始，它有OpenCL和CUDA后端。这是一个最小的例子：

#include <vexcl/vexcl.hpp>

int main() {
    // Get all compute devices that support double precision.
    vex::Context ctx(vex::Filter::DoublePrecision);

    std::vector<double> a = {1, 2, 3, 4,  5};
    std::vector<double> b = {6, 7, 8, 9, 10};

    // Allocate memory and copy input data to compute devices.
    vex::vector<double> A(ctx, a);
    vex::vector<double> B(ctx, b);

    // Do the computations.
    vex::vector<double> C = A + B;
    vex::vector<double> D = A - B;
    vex::vector<double> E = A / B;
    vex::vector<double> F = A * B;

    // Get the results back to host.
    vex::copy(C, a);
}

Answer 4

OpenCL就是这样一个“库” - 从技术上讲，它不是一个库，而是一种基于C99的语言。 OpenCL运行时系统允许您在多个线程中创建在GPU（或CPU）上运行的线程，每个线程负责计算的一小部分，并且您可以配置要运行的线程数。

可以在GPU上的浮点数组上进行数学运算的库吗？

4 个答案: