C ++ 11线程安全队列

时间:2013-03-07 17:56:22

标签: c++ multithreading c++11 queue condition-variable

我正在处理的项目使用多个线程来处理文件集合。每个线程都可以将文件添加到要处理的文件列表中,因此我将(我认为是)一个线程安全的队列放在一起。相关部分如下:

// qMutex is a std::mutex intended to guard the queue
// populatedNotifier is a std::condition_variable intended to
//                   notify waiting threads of a new item in the queue

void FileQueue::enqueue(std::string&& filename)
{
    std::lock_guard<std::mutex> lock(qMutex);
    q.push(std::move(filename));

    // Notify anyone waiting for additional files that more have arrived
    populatedNotifier.notify_one();
}

std::string FileQueue::dequeue(const std::chrono::milliseconds& timeout)
{
    std::unique_lock<std::mutex> lock(qMutex);
    if (q.empty()) {
        if (populatedNotifier.wait_for(lock, timeout) == std::cv_status::no_timeout) {
            std::string ret = q.front();
            q.pop();
            return ret;
        }
        else {
            return std::string();
        }
    }
    else {
        std::string ret = q.front();
        q.pop();
        return ret;
    }
}

但是,我偶尔会在if (...wait_for(lock, timeout) == std::cv_status::no_timeout) { }块内进行segfaulting,并且gdb中的检查表明由于队列为空而发生了段错误。这怎么可能?据我所知,wait_for仅在收到通知时才返回cv_status::no_timeout,而这只应在FileQueue::enqueue刚刚将新项目推送到队列后才会发生。

8 个答案:

答案 0 :(得分:46)

看看它,当你检查一个条件变量时,最好使用while循环(这样如果它被唤醒并且仍然无效,你再次检查)。我刚刚为异步队列编写了一个模板,希望这会有所帮助。

#ifndef SAFE_QUEUE
#define SAFE_QUEUE

#include <queue>
#include <mutex>
#include <condition_variable>

// A threadsafe-queue.
template <class T>
class SafeQueue
{
public:
  SafeQueue(void)
    : q()
    , m()
    , c()
  {}

  ~SafeQueue(void)
  {}

  // Add an element to the queue.
  void enqueue(T t)
  {
    std::lock_guard<std::mutex> lock(m);
    q.push(t);
    c.notify_one();
  }

  // Get the "front"-element.
  // If the queue is empty, wait till a element is avaiable.
  T dequeue(void)
  {
    std::unique_lock<std::mutex> lock(m);
    while(q.empty())
    {
      // release lock as long as the wait and reaquire it afterwards.
      c.wait(lock);
    }
    T val = q.front();
    q.pop();
    return val;
  }

private:
  std::queue<T> q;
  mutable std::mutex m;
  std::condition_variable c;
};
#endif

答案 1 :(得分:27)

根据标准condition_variables被允许虚假地唤醒,即使事件没有发生。在虚假唤醒的情况下,它将返回cv_status::no_timeout(因为它醒来而不是超时),即使它没有被通知。对此的正确解决方案当然是在程序化之前检查唤醒是否真的合法。

详细信息在标准§30.5.1[thread.condition.condvar]中指定:

  

- 当通过调用notify_one(),调用notify_all(),abs_time指定的绝对超时(30.2.4)到期或虚假地发出信号时,该函数将解除阻塞。

     

...

     

返回: cv_status ::超时如果abs_time指定的绝对超时(30.2.4)已过期,则其他为cv_status :: no_timeout。

答案 2 :(得分:12)

这可能是你应该这样做的:

void push(std::string&& filename)
{
    {
        std::lock_guard<std::mutex> lock(qMutex);

        q.push(std::move(filename));
    }

    populatedNotifier.notify_one();
}

bool try_pop(std::string& filename, std::chrono::milliseconds timeout)
{
    std::unique_lock<std::mutex> lock(qMutex);

    if(!populatedNotifier.wait_for(lock, timeout, [this] { return !q.empty(); }))
        return false;

    filename = std::move(q.front());
    q.pop();

    return true;    
}

答案 3 :(得分:10)

添加到接受的答案,我会说实现正确的多生产者/多消费者队列很困难(从C ++ 11开始,更容易)

我建议你试试(非常好)lock free boost library,&#34;队列&#34;结构将做你想要的,无等待/无锁保证和without the need for a C++11 compiler

我现在正在添加这个答案,因为无锁库是一个很新的提升(因为1.53我相信)

答案 4 :(得分:5)

我会将你的出队函数重写为:

std::string FileQueue::dequeue(const std::chrono::milliseconds& timeout)
{
    std::unique_lock<std::mutex> lock(qMutex);
    while(q.empty()) {
        if (populatedNotifier.wait_for(lock, timeout) == std::cv_status::timeout ) 
           return std::string();
    }
    std::string ret = q.front();
    q.pop();
    return ret;
}

它更短,没有像你那样重复的代码。只发出它可能会等待更长的超时。为了防止你需要记住循环前的开始时间,检查超时并相应地调整等待时间。或者在等待条件下指定绝对时间。

答案 5 :(得分:1)

对于这种情况还有GLib解决方案,我还没有尝试过,但我相信这是一个很好的解决方案。 https://developer.gnome.org/glib/2.36/glib-Asynchronous-Queues.html#g-async-queue-new

答案 6 :(得分:1)

BlockingCollection是C ++ 11线程安全集合类,它提供对队列,堆栈和优先级容器的支持。它处理您描述的“空”队列方案。以及“完整”队列。

答案 7 :(得分:0)

您可能喜欢lfqueue,https://github.com/Taymindis/lfqueue。 它是无锁并发队列。我目前正在使用它来消耗多个来电中的队列,并且像超级按钮一样工作。