使用DataFlow和RX的连续数据流停止处理

时间:2017-04-20 14:07:35

标签: .net async-await system.reactive tpl-dataflow

我已经设置了一个系统来无限期地从队列中读取消息,然后使用Rx和TPL DataFlow将它们关闭。

由于某种原因,在几百条消息之后,ActionBlock停止运行挂起,我无法弄清楚原因。 this.GetMessages()继续开火,但this.ProcessMessages不再发生。

var source = Observable
    .Timer(TimeSpan.FromMilliseconds(1), TimeSpan.FromMilliseconds(1))
    .SelectMany(x => this.GetMessages());

var actionBlock = new ActionBlock<List<QueueStream>>(
    this.ProcessMessages,
    new ExecutionDataflowBlockOptions
    {
        MaxDegreeOfParallelism = Environment.ProcessorCount * 2,
    });

using (source.Subscribe(actionBlock.AsObserver()))
{
    while (this.Run)
    {
        await Task.Delay(TimeSpan.FromSeconds(1));
    }
}

actionBlock.Complete();
await actionBlock.Completion;

读者 - 请注意,这实际上仍在继续

private async Task<List<QueueStream>> GetMessages()
{
    var messageList = new List<QueueStream>();
    var taskList = new List<Task>();

    // Add up to N items in our queue
    for (var i = 0; i < 25; i++)
    {
        var task = this
            .ReadAndParseQueue()
            .ContinueWith(async queueStreamTask =>
                {
                    var queueStream = await queueStreamTask;
                    if (queueStream != null)
                    {
                        messageList.Add(queueStream);
                    }
                });

        taskList.Add(task);
    }

    await Task.WhenAll(taskList);

    return messageList;
}

作者 - 在几百条消息之后,它就不再受到攻击

private async Task ProcessMessages(List<QueueStream> streams)
{
    var tasks = new List<Task>();
    foreach (var queueStream in streams)
    {
        tasks.Add(this.ProcessMessage(queueStream));
    }

    await Task.WhenAll(tasks);
}

1 个答案:

答案 0 :(得分:1)

在这种情况下,您确定source一直在运行吗?您的代码中存在无限循环,但是,如果发生错误或未设置this.Run,它将停止,之后您将拥有以下行:

actionBlock.Complete();
await actionBlock.Completion;

实际上阻止actionBlock接受新的消息,因此永远不会调用ProcessMessages,因为消息只是被忽略。