Question

GPU：GeForce GTX 750

CPU：Intel i5-4440 3.10 GHz

这是一个简单的C ++代码，我正在运行。

    #include <iostream>
    #include "opencv2/highgui/highgui.hpp"
    #include "opencv2\gpu\gpu.hpp"

    int main(int argc, char** argv) {
        cv::Mat img0 = cv::imread("IMG_0984.jpg", CV_LOAD_IMAGE_GRAYSCALE); // Size 3264 x 2448
        cv::Mat img0Blurred;

        cv::gpu::GpuMat gpuImg0(img0);
        cv::gpu::GpuMat gpuImage0Blurred;

        int64 tickCount;

        for (int i = 0; i < 5; i++)
        {
            tickCount = cv::getTickCount();
            cv::blur(img0, img0Blurred, cv::Size(7, 7));
            std::cout << "CPU Blur " << (cv::getTickCount() - tickCount) / cv::getTickFrequency() << std::endl;

            tickCount = cv::getTickCount();
            cv::gpu::blur(gpuImg0, gpuImage0Blurred, cv::Size(7, 7));
            std::cout << "GPU Blur " << (cv::getTickCount() - tickCount) / cv::getTickFrequency() << std::endl;

        }

        cv::gpu::DeviceInfo deviceInfo;
        std::cout << "Device Info: "<< deviceInfo.name() << std::endl;

        std::cin.get();

        return 0;
    }

结果，我经常得到这样的东西：

CPU Blur: 0.01
GPU Blur: 1.7
CPU Blur: 0.009
GPU Blur: 0.012
CPU Blur: 0.009
GPU Blur: 0.013
CPU Blur: 0.01
GPU Blur: 0.012
CPU Blur: 0.009
GPU Blur: 0.013

Device Info: GeForce GTX 750

因此GPU上的第一个操作需要时间。

但是，其余的GPU调用呢？

为什么GPU不为此提供任何加速。毕竟这是一个很大的形象（ 3264 x 2448 ）。并行化的任务很好，不是吗？

我的CPU是好的还是我的GPU那么糟糕？或者这是组件之间的某种沟通问题吗？

Answer 1

你的第一次测量是远远不是其他人，我经历过同样的事情。第一次调用opencv内核（erode / dilate / etc ...）比其他内容更长。在应用程序中，当我们初始化GPU内存时，我们首先调用了cv :: gpu :: XX，以便不会产生这种测量噪音。

我也看到cv :: gpu在每次调用后都使用cudaDeviceSynchronize而没有cv :: gpu :: Stream参数。这可能很长，会导致测量噪声。然后opencv可能为临时缓冲区分配内存，以存储用于模糊图像的内核。

我没有在你的例子中看到gpuImage0Blurred的分配，你能确定你的目标图像是在循环外正确分配的，否则你也会测量这个矩阵的分配时间。

使用nvvp可以为您提供运行应用程序以删除不必要操作时的实际情况的线索。

编辑：

#include <iostream>
#include "opencv2/highgui/highgui.hpp"
#include "opencv2\gpu\gpu.hpp"


int main(int argc, char** argv) {
    cv::Mat img0 = cv::imread("IMG_0984.jpg", CV_LOAD_IMAGE_GRAYSCALE); // Size 3264 x 2448
    cv::Mat img0Blurred;


    cv::gpu::GpuMat gpuImg0;
    cv::gpu::Stream stream;
    stream.enqueueUpload(img0, gpuImg0);
    stream.waitForCompletion();

    // allocates the matrix outside the loop
    cv::gpu::GpuMat gpuImage0Blurred( gpuImg0.size(), gpuImg0.type() );

    int64 tickCount;

    for (int i = 0; i < 5; i++)
    {
        tickCount = cv::getTickCount();
        cv::blur(img0, img0Blurred, cv::Size(7, 7));
        std::cout << "CPU Blur " << (cv::getTickCount() - tickCount) / cv::getTickFrequency() << std::endl;

        tickCount = cv::getTickCount();
        cv::gpu::blur(gpuImg0, gpuImage0Blurred, cv::Size(7, 7), cv::Point(-1, -1), stream);
        // ensure operations are finished  before measuring time spent doing operations
        stream.WaitCompletion();
        std::cout << "GPU Blur " << (cv::getTickCount() - tickCount) / cv::getTickFrequency() << std::endl;

    }

    std::cin.get();

    return 0;
}

是的，事实证明waitForCompletion完全不同。我得到了与开头相同的值：

CPU Blur: 0.01
GPU Blur: 1.7
CPU Blur: 0.009
GPU Blur: 0.012
CPU Blur: 0.009
GPU Blur: 0.013
CPU Blur: 0.01
GPU Blur: 0.012
CPU Blur: 0.009
GPU Blur: 0.013

OpenCV GPU模糊很慢

1 个答案: