Question

我已经实现了一个类，它产生一个用于读取和排队帧的线程，主线程通过OpenGL显示这些帧。在将图像数据绑定到OpenGL纹理后，我尝试释放分配的内存，但似乎某些内存未正确释放。内存使用量不断增长，直到系统内存不足，最终帧读取器线程由于内存分配失败而无法获取新帧。有人可以帮我解决一下我可能错过的内容吗？谢谢。

这是帧阅读器线程的代码：

void AVIReader::frameReaderThreadFunc()
{
    AVPacket packet;

    while (readFrames) {
        // Allocate necessary memory
        AVFrame* pFrame = av_frame_alloc();
        if (pFrame == nullptr)
        {
            continue;
        }

        AVFrame* pFrameRGB = av_frame_alloc();
        if (pFrameRGB == nullptr)
        {
            av_frame_free(&pFrame);
            continue;
        }

        // Determine required buffer size and allocate buffer
        int numBytes = avpicture_get_size(AV_PIX_FMT_RGB24, pCodecCtx->width,
            pCodecCtx->height);
        uint8_t* buffer = (uint8_t *)av_malloc(numBytes * sizeof(uint8_t));

        if (buffer == nullptr)
        {
            av_frame_free(&pFrame);
            av_frame_free(&pFrameRGB);
            continue;
        }

        // Assign appropriate parts of buffer to image planes in pFrameRGB
        // Note that pFrameRGB is an AVFrame, but AVFrame is a superset
        // of AVPicture
        avpicture_fill((AVPicture *)pFrameRGB, buffer, AV_PIX_FMT_RGB24,
            pCodecCtx->width, pCodecCtx->height);

        if (av_read_frame(pFormatCtx, &packet) >= 0) {
            // Is this a packet from the video stream?
            if (packet.stream_index == videoStream) {
                // Decode video frame
                int frameFinished;
                avcodec_decode_video2(pCodecCtx, pFrame, &frameFinished, &packet);

                if (frameFinished) {
                    // Convert the image from its native format to RGB
                    sws_scale(sws_ctx, (uint8_t const * const *)pFrame->data,
                        pFrame->linesize, 0, pCodecCtx->height,
                        pFrameRGB->data, pFrameRGB->linesize);

                    VideoFrame vf;
                    vf.frame = pFrameRGB;
                    vf.pts = av_frame_get_best_effort_timestamp(pFrame) * time_base;
                    frameQueue.enqueue(vf);

                    av_frame_unref(pFrame);
                    av_frame_free(&pFrame);
                }
            }
            //av_packet_unref(&packet);
            av_free_packet(&packet);
        }
    }
}

这是抓取排队帧并将其绑定到OpenGL纹理的代码。我明确保存前一帧，直到我用下一帧切换出来。否则，它似乎会导致段错误。

void AVIReader::GrabAVIFrame()
{
    if (curFrame.pts >= clock_pts)
    {
        return;
    }

    if (frameQueue.empty())
        return;

    // Get a packet from the queue
    VideoFrame videoFrame = frameQueue.top();
    while (!frameQueue.empty() && frameQueue.top().pts < clock_pts)
    {
        videoFrame = frameQueue.dequeue();
    }

    glTexSubImage2D(GL_TEXTURE_2D, 0, 0, 0, width, height, GL_RGB, GL_UNSIGNED_BYTE, videoFrame.frame->data[0]);

    // release previous frame
    if (curFrame.frame)
    {
        av_free(curFrame.frame->data[0]);
    }
    av_frame_unref(curFrame.frame);

    // set current frame to new frame
    curFrame = videoFrame;
}

frameQueue是一个线程安全的优先级队列，它将VideoFrame定义为：

class VideoFrame {
public:
    AVFrame* frame;
    double pts;
};

更新：将当前帧设置为新帧的顺序中存在一个愚蠢的错误。在尝试了一些事情之后我忘了把它换回来。我还纳入了@ ivan_onys的建议，但这似乎无法解决问题。

更新2：我采用@Al Bundy的建议无条件发布pFrame和数据包，但问题仍然存在。

由于缓冲区包含需要在glTexSubImage2D（）中使用的实际图像数据，因此我无法释放它，直到我在屏幕上显示它（否则我得到段错误）。 avpicture_fill（）指定frame-＆gt; data [0] = buffer，所以我认为调用av_free（curFrame.frame-＆gt; data [0]）;在纹理映射之后的前一帧上，新帧应该释放分配的缓冲区。

这是更新的帧阅读器线程代码：

void AVIReader::frameReaderThreadFunc()
{
    AVPacket packet;

    while (readFrames) {
        // Allocate necessary memory
        AVFrame* pFrame = av_frame_alloc();
        if (pFrame == nullptr)
        {
            continue;
        }

        AVFrame* pFrameRGB = av_frame_alloc();
        if (pFrameRGB == nullptr)
        {
            av_frame_free(&pFrame);
            continue;
        }

        // Determine required buffer size and allocate buffer
        int numBytes = avpicture_get_size(AV_PIX_FMT_RGB24, pCodecCtx->width,
            pCodecCtx->height);
        uint8_t* buffer = (uint8_t *)av_malloc(numBytes * sizeof(uint8_t));

        if (buffer == nullptr)
        {
            av_frame_free(&pFrame);
            av_frame_free(&pFrameRGB);
            continue;
        }

        // Assign appropriate parts of buffer to image planes in pFrameRGB
        // Note that pFrameRGB is an AVFrame, but AVFrame is a superset
        // of AVPicture
        avpicture_fill((AVPicture *)pFrameRGB, buffer, AV_PIX_FMT_RGB24,
            pCodecCtx->width, pCodecCtx->height);

        if (av_read_frame(pFormatCtx, &packet) >= 0) {
            // Is this a packet from the video stream?
            if (packet.stream_index == videoStream) {
                // Decode video frame
                int frameFinished;
                avcodec_decode_video2(pCodecCtx, pFrame, &frameFinished, &packet);

                if (frameFinished) {
                    // Convert the image from its native format to RGB
                    sws_scale(sws_ctx, (uint8_t const * const *)pFrame->data,
                        pFrame->linesize, 0, pCodecCtx->height,
                        pFrameRGB->data, pFrameRGB->linesize);

                    VideoFrame vf;
                    vf.frame = pFrameRGB;
                    vf.pts = av_frame_get_best_effort_timestamp(pFrame) * time_base;
                    frameQueue.enqueue(vf);
                }
            }
        }
        av_frame_unref(pFrame);
        av_frame_free(&pFrame);
        av_packet_unref(&packet);
        av_free_packet(&packet);
    }
}

已解决：事实证明，当数据包来自非视频流（例如音频）时，就会发生泄漏。我还需要在GrabAVIFrame（）的while循环中跳过的帧上释放资源。

Answer 1

我在这里看到了多个问题：

尝试释放已分配的内存，但尚未分配。

AVFrame* pFrame = av_frame_alloc();
if (pFrame == nullptr)
{
    av_frame_free(&pFrame);
    continue;
}

不释放已分配的内存（pFrame来自1. isn＆t; t）：

AVFrame* pFrameRGB = av_frame_alloc();
if (pFrameRGB == nullptr)
{
    av_frame_free(&pFrameRGB);
    continue;
}

在继续之前，你应该释放在上面循环体中成功分配的所有内存。

Answer 2

你永远不会释放buffer。检查您的流路，就像现在一样，它没有真正意义。另外，请考虑一下ivan_onys的回答。

修改

正如我所写，检查流程。您有三个分配：

pFrame

pFrameRGB

缓冲

但是只有当此命令为true时才会释放它们：

if (av_read_frame(pFormatCtx, &packet) >= 0)，if (frameFinished)和buffer永远不会发布。

这似乎是问题所在。我会在while结束之前释放所有指针：

if (av_read_frame(pFormatCtx, &packet) >= 0) { ... if (frameFinished) { // av_frame_unref(pFrame); --> remove this line // av_frame_free(&pFrame); --> remove this line } } // here is the body from while // release it here - unconditional av_packet_unref(&packet); av_free_packet(&packet); av_free(buffer); } // while } // frameReaderThreadFunc()

使用ffmpeg

2 个答案: