Question

目前，我正在使用Metal计算着色器，并试图了解GPU线程同步在那里的工作方式。

我写了一个简单的代码，但是它不能按我期望的方式工作：

考虑到我有threadgroup变量，它是所有线程可以同时产生输出的数组。

    kernel void compute_features(device float output [[ buffer(0) ]],
                                 ushort2 group_pos [[ threadgroup_position_in_grid ]],
                                 ushort2 thread_pos [[ thread_position_in_threadgroup]],
                                 ushort tid [[ thread_index_in_threadgroup ]])
    {     
        threadgroup short blockIndices[288];

        float someValue = 0.0
        // doing some work here which fills someValue...

        blockIndices[thread_pos.y * THREAD_COUNT_X + thread_pos.x] = someValue;

        //wait when all threads are done with calculations
        threadgroup_barrier(mem_flags::mem_none);  
        output += blockIndices[thread_pos.y * THREAD_COUNT_X + thread_pos.x]; // filling out output variable with threads calculations
    }

上面的代码不起作用。输出变量不包含所有线程的计算，它仅包含线程中的值，该值可能是最后一个将值加到output时得出的值。在我看来，threadgroup_barrier绝对没有任何作用。

现在，有趣的部分。下面的代码有效：

blockIndices[thread_pos.y * THREAD_COUNT_X + thread_pos.x] = someValue;

threadgroup_barrier(mem_flags::mem_none);  //wait when all threads are done with calculations
if (tid == 0) {
    for (int i = 0; i < 288; i ++) {
        output += blockIndices[i]; // filling out output variable with threads calculations
    }
}

此代码也与上一个代码一样好：

blockIndices[thread_pos.y * THREAD_COUNT_X + thread_pos.x] = someValue;

if (tid == 0) {
    for (int i = 0; i < 288; i ++) {
        output += blockIndices[i]; // filling out output variable with threads calculations
    }
}

总结：仅当我在一个GPU线程中处理线程组内存时，我的代码才能按预期工作，无论它的ID是什么，它可以是线程组中的最后一个线程，也可以是第一个线程。 threadgroup_barrier的存在绝对没有区别。我还使用了threadgroup_barrier和mem_threadgroup标志，代码仍然无法正常工作。

我知道我可能会遗漏一些非常重要的细节，如果有人可以指出我的错误，我将很高兴。预先感谢！

Answer 1

当您编写output += blockIndices[...]时，所有线程都将尝试同时执行此操作。但是由于output不是原子变量，因此会导致竞争状态。这不是线程安全操作。

您的第二个解决方案是正确的。您只需要一个线程即可收集结果（尽管您也可以将其拆分为多个线程）。如果您移除障碍物，仍然可以正常运行，可能是由于运气。

“ threadgroup_barrier”没有区别

1 个答案: