首先,我应该说我是用C ++编程的新手(更不用说CUDA了),尽管这是我在大约184年前首次学到的东西。虽然我正在学习,但我会说我对内存分配和数据类型大小有点脱节。无论如何这里是:
我的GPU具有3.0的计算能力(这是一款Geforce 660 GTX w / 2GB的DRAM)。
在CUDA样本中找到./deviceQuery(以及我在网上找到的其他图表),列出了我的最大网格大小:
Max dimension size of a grid size (x,y,z): (2147483647, 65535, 65535)
在2,147,483,647(2 ^ 31-1),x维度是巨大的,有点不错...但是,当我运行我的代码时,在x维度上超过65535,事情变得......很奇怪。
我使用了Udacity课程中的一个例子,并对其进行了修改以测试极端情况。我保持内核代码相当简单,以证明这一点:
__global__ void referr(long int *d_out, long int *d_in){
long int idx = blockIdx.x;
d_out[idx] = idx;
}
请注意下面ARRAY_SIZE
是网格的大小,但也是要进行操作的整数数组的大小。我将块的大小保持在1x1x1。只是为了理解这些限制,我知道只使用1个线程的块进行这么多操作是没有意义的,但我想了解网格大小限制发生了什么。
int main(int argc, char ** argv) {
const long int ARRAY_SIZE = 522744;
const long int ARRAY_BYTES = ARRAY_SIZE * sizeof(long int);
// generate the input array on the host
long int h_in[ARRAY_SIZE];
for (long int i = 0; i < ARRAY_SIZE; i++) {
h_in[i] = i;
}
long int h_out[ARRAY_SIZE];
// declare GPU memory pointers
long int *d_in;
long int *d_out;
// allocate GPU memory
cudaMalloc((void**) &d_in, ARRAY_BYTES);
cudaMalloc((void**) &d_out, ARRAY_BYTES);
// transfer the array to the GPU
cudaMemcpy(d_in, h_in, ARRAY_BYTES, cudaMemcpyHostToDevice);
// launch the kernel with ARRAY_SIZE blocks in the x dimension, with 1 thread each.
referr<<<ARRAY_SIZE, 1>>>(d_out, d_in);
// copy back the result array to the CPU
cudaMemcpy(h_out, d_out, ARRAY_BYTES, cudaMemcpyDeviceToHost);
// print out the resulting array
for (long int i =0; i < ARRAY_SIZE; i++) {
printf("%li", h_out[i]);
printf(((i % 4) != 3) ? "\t" : "\n");
}
cudaFree(d_in);
cudaFree(d_out);
return 0;
}
这可以正常工作,其中ARRAY_SIZE
的MOST为65535.下面输出的最后几行
65516 65517 65518 65519
65520 65521 65522 65523
65524 65525 65526 65527
65528 65529 65530 65531
65532 65533 65534
如果我推动ARRAY_SIZE
超出此范围,则输出变得非常不可预测,并且最终如果数字变得过高,我会收到Segmentation fault (core dumped)
消息......无论哪个甚至意味着什么。 IE浏览器。 ARRAY_SIZE
为65536:
65520 65521 65522 65523
65524 65525 65526 65527
65528 65529 65530 65531
65532 65533 65534 131071
为什么现在说明最后一个的blockIdx.x是131071?那是65535 + 65535 + 1。怪异。
即使更奇怪,当我将ARRAY_SIZE
设置为65537(65535 + 2)时,我会在输出的最后几行得到一些非常奇怪的结果。
65520 65521 65522 65523
65524 65525 65526 65527
65528 65529 65530 65531
65532 65533 65534 131071
131072 131073 131074 131075
131076 131077 131078 131079
131080 131081 131082 131083
131084 131085 131086 131087
131088 131089 131090 131091
131092 131093 131094 131095
131096 131097 131098 131099
131100 131101 131102 131103
131104 131105 131106 131107
131108 131109 131110 131111
131112 131113 131114 131115
131116 131117 131118 131119
131120 131121 131122 131123
131124 131125 131126 131127
131128 131129 131130 131131
131132 131133 131134 131135
131136 131137 131138 131139
131140 131141 131142 131143
131144 131145 131146 131147
131148 131149 131150 131151
131152 131153 131154 131155
131156 131157 131158 131159
131160 131161 131162 131163
131164 131165 131166 131167
131168 131169 131170 131171
131172 131173 131174 131175
131176 131177 131178 131179
131180 131181 131182 131183
131184 131185 131186 131187
131188 131189 131190 131191
131192 131193 131194 131195
131196 131197 131198 131199
131200
不是65535是旧GPU的限制吗?当我推动超过x网格维度的65535障碍时,为什么我的GPU“搞乱了”?或者这是设计?世界上到底发生了什么?
哇,抱歉这个长期的问题。任何帮助理解这一点将不胜感激!谢谢!