Question

我遇到一个非常奇怪的错误，因为我在运行特定大小的Heat 2D模拟时遇到“非法内存访问”错误，但如果运行完全相同的模拟，模拟运行良好，只需少量元素。

是否有理由增加数组的大小会导致此异常？我正在使用Titan Black GPU（6 GB内存），但我正在运行的模拟远不是那么大。我计算出我可以运行4000 x 4000模拟，但是如果我超过250 x 250就会出错。

我在设备上实例化模拟对象数组后立即发生错误。实例化代码如下：

template<typename PlaceType, typename StateType>
__global__ void instantiatePlacesKernel(Place** places, StateType *state,
        void *arg, int *dims, int nDims, int qty) {
    unsigned idx = blockDim.x * blockIdx.x + threadIdx.x;

    if (idx < qty) {
        // set pointer to corresponding state object
        places[idx] = new PlaceType(&(state[idx]), arg);
        places[idx]->setIndex(idx);
        places[idx]->setSize(dims, nDims);
    }
}

template<typename PlaceType, typename StateType>
Place** DeviceConfig::instantiatePlaces(int handle, void *argument, int argSize,
        int dimensions, int size[], int qty) {

    // add global constants to the GPU
    memcpy(glob.globalDims,size, sizeof(int) * dimensions);
    updateConstants(glob);

    // create places tracking
    PlaceArray p; // a struct to track qty, 
    p.qty = qty;

    // create state array on device
    StateType* d_state = NULL;
    int Sbytes = sizeof(StateType);
    CATCH(cudaMalloc((void** ) &d_state, qty * Sbytes));
    p.devState = d_state; // save device pointer

    // allocate device pointers
    Place** tmpPlaces = NULL;
    int ptrbytes = sizeof(Place*);
    CATCH(cudaMalloc((void** ) &tmpPlaces, qty * ptrbytes));
    p.devPtr = tmpPlaces; // save device pointer

    // handle arg if necessary
    void *d_arg = NULL;
    if (NULL != argument) {
        CATCH(cudaMalloc((void** ) &d_arg, argSize));
        CATCH(cudaMemcpy(d_arg, argument, argSize, H2D));
    }

    // load places dimensions
    int *d_dims;
    int dimBytes = sizeof(int) * dimensions;
    CATCH(cudaMalloc((void** ) &d_dims, dimBytes));
    CATCH(cudaMemcpy(d_dims, size, dimBytes, H2D));

    // launch instantiation kernel
    int blockDim = (qty - 1) / BLOCK_SIZE + 1;
    int threadDim = (qty - 1) / blockDim + 1;
    Logger::debug("Launching instantiation kernel");
    instantiatePlacesKernel<PlaceType, StateType> <<<blockDim, threadDim>>>(tmpPlaces, d_state,
            d_arg, d_dims, dimensions, qty);
    CHECK();

    CATCH(cudaDeviceSynchronize()); // ERROR OCCURS HERE

    // clean up memory
    if (NULL != argument) {
        CATCH(cudaFree(d_arg));
    }
    CATCH(cudaFree(d_dims));
    CATCH(cudaMemGetInfo(&freeMem, &allMem));

    return p.devPtr;
}

请假设您看到的任何自定义类型都在工作，因为此代码在足够小的模拟上执行时没有错误。我很沮丧，当大小超过250 x 250个元素时，内核函数的位置和状态数组中的元素数量似乎会导致错误。任何见解都会很棒。

谢谢！

Answer 1

我认为内核new可能会失败，因为你分配了太多的内存。

内核中new具有与in-kernel malloc类似的行为和限制。这些分配仅限于设备堆，默认情况下为8MB。如果250x250阵列大小对应于该范围内的某些内容（8MB），那么显着高于该范围会导致一些新操作无声地＆＃34;静默地＃34;失败（即返回空指针）。如果您尝试使用这些空指针，则会获得非法内存访问。

一些建议：

计算出您需要多少空间，并使用cudaDeviceSetLimit(cudaLimitMallocHeapSize, size_t size)预先在设备堆上预留它
如果您在使用new或malloc的内核遇到问题时，调试可能会使用调试宏来检查返回的指针是否为NULL。这是一个很好的做法。
您可以使用here描述的方法更清晰地学习如何调试非法内存访问（将其本地化到特定内核中的特定行）。

cudaDeviceSynchronize上的非法内存访问

1 个答案: