多线程作业队列

时间:2016-09-19 22:21:03

标签: c# multithreading task-parallel-library concurrent-collections

我有一个可以由多个线程(ConcurrentQueue<MyJob>)填充的作业队列。我需要异步(不是通过主线程)实现这些作业的连续执行,但是只能同时由一个线程执行。我尝试过这样的事情:

public class ConcurrentLoop {
    private static ConcurrentQueue<MyJob> _concurrentQueue = new ConcurrentQueue<MyJob>();

    private static Task _currentTask;
    private static object _lock = new object();

    public static void QueueJob(Job job)
    {
        _concurrentQueue.Enqueue(job);
        checkLoop();
    }

    private static void checkLoop()
    {
        if ( _currentTask == null || _currentTask.IsCompleted )
        {
            lock (_lock)
            {
                if ( _currentTask == null || _currentTask.IsCompleted )
                {
                    _currentTask = Task.Run(() =>
                    {
                            MyJob current;
                            while( _concurrentQueue.TryDequeue( out current ) ) 
                                //Do something                                                       
                    });
                }
            }
        }
    }
}

我认为这段代码有一个问题:如果任务完成执行(TryDequeue返回false但任务尚未标记为已完成)并且此时我得到一份新工作,则不会执行。我对吗?如果是这样,如何解决这个问题

2 个答案:

答案 0 :(得分:3)

您的问题陈述看起来像producer-consumer问题,但需要注意的是您只需要一个消费者。

无需手动重新实现此类功能。 相反,我建议使用BlockingCollection - 在内部它使用ConcurrentQueue和一个单独的线程供消费。 请注意,这可能适用于您的用例,也可能不适用。

类似的东西:

_blockingCollection = new BlockingCollection<your type>(); // you may want to create bounded or unbounded collection
_consumingThread = new Thread(() =>
{
    foreach (var workItem in _blockingCollection.GetConsumingEnumerable()) // blocks when there is no more work to do, continues whenever a new item is added.
    {
      // do work with workItem
     }
});
_consumingThread.Start();

多个生产者(任务或线程)可以将工作项添加到_blockingCollection没有问题,也无需担心同步生产者/消费者。

完成生成任务后,调用_blockingCollection.CompleteAdding()(此方法不是线程安全的,因此建议事先停止所有生成器)。 也许你应该在某个地方_consumingThread.Join()终止你的消费线程。

答案 1 :(得分:0)

我会使用Microsoft的Reactive Framework Team的Reactive Extensions(NuGet“System.Reactive”)。这是一个可爱的抽象。

public class ConcurrentLoop
{
    private static Subject<MyJob> _jobs = new Subject<MyJob>();

    private static IDisposable _subscription =
        _jobs
            .Synchronize()
            .ObserveOn(Scheduler.Default)
            .Subscribe(job =>
            {
                //Do something
            });

    public static void QueueJob(MyJob job)
    {
        _jobs.OnNext(job);
    }
}

这很好地将所有传入的作业同步到一个流中并将执行推送到Scheduler.Default(基本上是线程池),但因为它已经序列化了所有输入,所以一次只能发生一次。关于这一点的好处是,如果值之间存在显着差距,它将释放线程。这是一个非常精益的解决方案。

要清理您只需拨打_jobs.OnCompleted();_subscription.Dispose();