cublas内核函数会自动与主机同步吗？

Question

关于cublas的一般问题。对于单个线程，如果没有从GPU到CPU的内存传输（例如cublasGetVector），cublas内核函数（例如cublasDgemm）是否会自动与主机同步？

    cublasDgemm();
//cublasGetVector();
    host_functions()

此外，在两个相邻的内核调用之间呢？

cublasDgemm();
cublasDgemm();

，那么同步传输又不涉及前一个内核中使用的全局内存？

cublasDgemm(...gA...gB...gC);
cublasGetVector(...gD...D...);

Answer 1

不，除少数返回标量值的1级例程外，CUBLAS API是异步的。

cublasDgemm等3级例程不会阻塞主机，您需要调用阻塞API例程，如同步内存传输或显式主机-GPU同步调用，以确保CUBLAS调用已完成。 / p>