Question

我是一个CUDA新手，所以想知道是否有人可以帮助我。

我读到pinning可以严重改善你的程序性能，所以我试图做到这一点。我在GeForce GT 330上运行我的代码，它的计算能力为1.0。

当我运行我的程序时，我得到cudaMallocHost无法分配内存，所以我把我的问题浓缩成一个小例子，可以在下面看到。

Mesh.hpp

#ifndef MESH_HPP_

#define MESH_HPP_


#include <cstddef>
#include <vector>

#include <driver_types.h>

class Mesh{
public:
  Mesh();
  ~Mesh();  
  void pin_data();

  std::vector<size_t> _a;
  size_t* _a_pinned;

private:
  void cuda_check(cudaError_t success);
};

#endif /* MESH_HPP_ */

Mesh.cpp

#include <iostream>
#include <cmath>
#include <vector>
#include <string.h>

#include <cuda.h>
#include <cuda_runtime.h>

#include "Mesh.hpp"

Mesh::Mesh(){
  for(size_t i = 0; i < 10; i++){
    _a.push_back(i);
  }
}

Mesh::~Mesh() {
  cudaFreeHost(_a_pinned);
}

void Mesh::pin_data() {
  size_t _a_bytes = sizeof(size_t) * _a.size();

  cuda_check(cudaMallocHost((void **)_a_pinned, _a_bytes));
  memcpy(_a_pinned, &_a[0], _a_bytes);
}

void Mesh::cuda_check(cudaError_t status) {
  if (status != cudaSuccess) {
    std::cout << "Error could not allocate memory result " << status << std::endl;
    exit(1);
  }
}

Main.cpp的

#include <cstdlib>
#include <iostream>

#include "Mesh.hpp"


int main(int argc, char **argv){

  Mesh *mesh = new Mesh();
  mesh->pin_data();

  delete mesh;

  return EXIT_SUCCESS;
}

当我运行我的代码时，输出是：

'错误无法分配内存结果11'

Answer 1

更改此行：

cuda_check(cudaMallocHost((void **)_a_pinned, _a_bytes));

到此：

cuda_check(cudaMallocHost((void **)&_a_pinned, _a_bytes));

（仅更改是添加＆符号）

cudaMalloc操作期望修改指针值，因此它们是must be passed the address of the pointer to modify，而不是指针本身。

为我修好了。我仍然对<size_t>的向量感到有些困惑，但对每个人都感到困惑。

如果您想在Mesh:cuda_check方法中添加一行，可以添加如下行：

  std::cout << "Error could not allocate memory result " << status << std::endl;
  std::cout << "Error is: " << cudaGetErrorString(status) << std::endl; //add this line

cudaMallocHost甚至无法分配最小的内存

1 个答案: