如何访问使用omp_target_alloc()分配的设备内存

时间:2018-03-01 15:50:13

标签: c++ openmp

我正在尝试使用OpenMP和目标指令。我正在使用omp_target_alloc()直接在设备上分配缓冲区,然后我尝试在target区域内写入此缓冲区。不幸的是,当我尝试这样做时,我遇到了分段错误。有趣的是,如果我使用指令而不是函数omp_target_alloc(),程序不会崩溃。为了让事情变得更有趣,omp_get_num_devices()omp_get_default_device()都返回0.这是我的代码:

#include <iostream>
#include <omp.h>

//#define USE_TARGET // Uncomment this to see the segmentation fault

int main(int argc, char** argv)
{
    const unsigned long int N = 100000;

    std::cout << "Number of devices: " << omp_get_num_devices() << std::endl;
    std::cout << "Default device: " << omp_get_default_device() << std::endl;

    // Allocate
#ifdef USE_TARGET
    float* buffer = (float*)omp_target_alloc(N*sizeof(float), 0);
#else
    float* buffer = (float*)malloc(N*sizeof(float));
#endif

    // Evaluate
#ifdef USE_TARGET
    #pragma omp target is_device_ptr(buffer)
    {
#else
    #pragma omp target data map(tofrom:buffer[0:N])
    {
#endif
        #pragma omp parallel for
        for(unsigned long int i = 0; i < N; ++i)
            buffer[i] = i;
    }

    // Cleanup
#ifdef USE_TARGET
    omp_target_free(buffer, 0);
#else
    free(buffer);
#endif

    return 0;
}

当我定义USE_TARGET时,有人可以解释为什么上面的代码会产生分段错误吗?我需要做些什么来修复此代码?

我在调用omp_target_alloc()时使用“设备0”。我假设设备0是CPU本身。对?我知道target指令和omp_target_alloc()有点无意义,但我的目标是编写一个在加速器和CPU上运行的代码。

另外,g++ --version给了我这个:g++ (Debian 7.3.0-5) 7.3.0

1 个答案:

答案 0 :(得分:0)

问题是根据OpenMP 4.5 specification(参见第3.5.1节)omp_target_alloc要求

  

device_num,必须大于或等于零且小于omp_get_num_devices()的结果

在您的情况下,您安装GCC时看不到任何非主机设备,因为omp_get_num_devices()返回零。这会导致omp_target_alloc返回NULL。这就是崩溃http://coliru.stacked-crooked.com/a/00054f08e8e1322e

的原因

在我的系统omp_get_num_devices上返回1,您的代码不会崩溃。

我刚刚了解到,我可以使用-foffload=disable

让您的代码在我的系统上崩溃
g++ -Wall -O3 -fopenmp -foffload=disable -fno-stack-protector foo.cpp

这会禁用卸载并导致omp_target_alloc返回NULL

您可以使用以下方法修复代码

bool offload;
#pragma omp target defaultmap(tofrom:scalar)
offload = !omp_is_initial_device();
int device = offload ? 0: omp_get_initial_device();

如果没有非主机设备,则会将device设置为主机设备,否则会将设备设置为0。我有这个想法here。然后使用device代替0获取设备参数,如下所示:

#include <iostream>
#include <omp.h>

int main(int argc, char** argv)
{
    const unsigned long int N = 100000;

    std::cout << "Number of devices: " << omp_get_num_devices() << std::endl;
    std::cout << "Default device: " << omp_get_default_device() << std::endl;

    bool offload;
    #pragma omp target defaultmap(tofrom:scalar)
    offload = !omp_is_initial_device();
    int device = offload ? 0: omp_get_initial_device();

    if (offload) {
      printf("Able to use offloading!\n");
    }

    // Allocate
    float* buffer = (float*)omp_target_alloc(N*sizeof(float), device);

    // Evaluate
    #pragma omp target is_device_ptr(buffer)
    #pragma omp parallel for
    for(unsigned long int i = 0; i < N; ++i) buffer[i] = i;

    // Cleanup
    omp_target_free(buffer, device);

    return 0;
}

http://coliru.stacked-crooked.com/a/5104446f789e2fc9