Question

我想使用.NET迭代器和并行Tasks / await？。像这样：

IEnumerable<TDst> Foo<TSrc, TDest>(IEnumerable<TSrc> source)
{
    Parallel.ForEach(
        source,
        s=>
        {
            // Ordering is NOT important
            // items can be yielded as soon as they are done                
            yield return ExecuteOrDownloadSomething(s);
        }
}

不幸的是，.NET无法原生地处理这个问题。迄今为止@svick的最佳答案 - 使用AsParallel（）。

BONUS：任何实现多个发布者和单个订阅者的简单异步/等待代码？订阅者将屈服，并且pubs将处理。（仅核心库）

Answer 1

这似乎是PLINQ的工作：

return source.AsParallel().Select(s => ExecuteOrDownloadSomething(s));

这将使用有限数量的线程并行执行委托，并在完成后立即返回每个结果。

如果ExecuteOrDownloadSomething()方法是IO绑定的（例如它实际下载了一些东西）并且你不想浪费线程，那么使用async - await可能有意义，但是它会更复杂。

如果您想充分利用async，则不应返回IEnumerable，因为它是同步的（即如果没有可用的项目则会阻止）。您需要的是某种异步集合，您可以使用TPL Dataflow中的ISourceBlock（具体来说，TransformBlock）：

ISourceBlock<TDst> Foo<TSrc, TDest>(IEnumerable<TSrc> source)
{
    var block = new TransformBlock<TSrc, TDest>(
        async s => await ExecuteOrDownloadSomethingAsync(s),
        new ExecutionDataflowBlockOptions
        {
            MaxDegreeOfParallelism = DataflowBlockOptions.Unbounded
        });

    foreach (var item in source)
        block.Post(item);

    block.Complete();

    return block;
}

如果源“慢”（即您希望在迭代Foo()完成之前开始处理source的结果），您可能想要移动foreach和{{ 1}}拨打单独的Complete()。更好的解决方案是将Task变成source。

Answer 2

因此，您想要做的事情似乎是根据完成时间顺序排列一系列任务。这不是非常复杂：

public static IEnumerable<Task<T>> Order<T>(this IEnumerable<Task<T>> tasks)
{
    var input = tasks.ToList();

    var output = input.Select(task => new TaskCompletionSource<T>());
    var collection = new BlockingCollection<TaskCompletionSource<T>>();
    foreach (var tcs in output)
        collection.Add(tcs);

    foreach (var task in input)
    {
        task.ContinueWith(t =>
        {
            var tcs = collection.Take();
            switch (task.Status)
            {
                case TaskStatus.Canceled:
                    tcs.TrySetCanceled();
                    break;
                case TaskStatus.Faulted:
                    tcs.TrySetException(task.Exception.InnerExceptions);
                    break;
                case TaskStatus.RanToCompletion:
                    tcs.TrySetResult(task.Result);
                    break;
            }
        }
        , CancellationToken.None
        , TaskContinuationOptions.ExecuteSynchronously
        , TaskScheduler.Default);
    }

    return output.Select(tcs => tcs.Task);
}

所以我们在这里为每个输入任务创建一个TaskCompletionSource，然后完成每个任务并设置一个继续，从BlockingCollection抓取下一个完成源并设置它的结果。完成的第一个任务抓取返回的第一个tcs，完成的第二个任务获取返回的第二个tcs，依此类推。

现在你的代码变得非常简单了：

var tasks = collection.Select(item => LongRunningOperationThatReturnsTask(item))
    .Order();
foreach(var task in tasks)
{
    var result = task.Result;//or you could `await` each result
    //....
}

Answer 3

在MS机器人团队制作的异步库中，它们具有并发原语，允许使用迭代器生成异步代码。

图书馆（CCR）是免费的（它不是免费的）。可以在这里找到一篇很好的介绍性文章：Concurrent affairs

也许您可以将此库与.Net任务库一起使用，或者它会激发您“自己动手”

如何从.NET 4.5中的并行任务中获益

3 个答案: