我有100条并行化记录,从1到100,现在我可以方便地使用Parallel.For在Parallel中执行它们,如下所示,它将基于计算资源工作
Parallel.For(0, limit, i =>
{
DoWork(i);
});
但是存在某些限制,每个线程需要使用相同的数据实体,并且数据实体数量有限,例如10,它们是通过相互克隆并将它们保存在诸如Dictionary或List之类的结构中而在高级创建的。现在我可以使用以下代码限制并行化的数量:
Parallel.For(0, limit, new ParallelOptions { MaxDegreeOfParallelism = 10 }, i =>
{
DoWork(i);
});
但问题是如何为每个传入线程分配一个唯一的数据实体,这样任何其他当前线程都不会使用Data实体,因为线程和数据实体的数量是相同的,所以starvation不是问题。我可以想到,我为每个数据实体创建一个布尔值,指定它是否正在使用,因此我们遍历字典或列表以查找下一个可用数据实体并锁定整个分配过程,以便一个线程在给定时间被分配了一个数据实体,但在我看来这个问题将有更优雅的解决方案,我的版本只是一个解决方法,而不是真正的修复。我的逻辑是:
Parallel.For(0, limit, new ParallelOptions { MaxDegreeOfParallelism = 10 }, i =>
{
lock(All_Threads_Common_Object)
{
Check for available data entity using boolean
Assign the Data entity
}
DoWork(i);
Reset the Boolean value for another thread to use it
});
如果问题需要进一步澄清,请告诉我
答案 0 :(得分:6)
使用接受线程本地初始化函数的Parallel.For
的重载。
Parallel.For<DataEntity>(0, limit,
//will run once for each thread
() => GetThreadLocalDataEntity(),
//main loop body, will run once per iteration
(i, loop, threadDataEntity) =>
{
DoWork(i, threadDataEntity);
return threadDataEntity; //we must return it here to adhere to the Func signature.
},
//will run once for each thread after the loop
(threadDataEntity) => threadDataEntity.Dispose() //if necessary
);
此方法与您在问题中发布的方法的主要优点是,DataEntity
的赋值每个线程发生一次,而不是每次循环迭代一次。
答案 1 :(得分:5)
您可以使用concurrent collection存储10个对象。 每个工作人员将拉出一个数据实体,使用它并将其还原。使用并发集合很重要,因为在您的方案中,正常的集合不是线程安全的。
像这样:
var queue = new ConcurrentQueue<DataEntity>();
// fill the queue with 10 items
Parallel.For(0, limit, new ParallelOptions { MaxDegreeOfParallelism = 10 }, i =>
{
DataEntity x;
if(!queue.TryDequeue(out x))
throw new InvalidOperationException();
DoWork(i, x);
queue.Enqueue(x);
});
或者,如果需要提供阻止,请将事物包裹在BlockingCollection。
中编辑:不将其包装在循环中以保持等待。而是使用像这样的BlockingCollection:
var entities = new BlockingCollection(new ConcurrentQueue<DataEntity>());
// fill the collection with 10 items
Parallel.For(0, limit, new ParallelOptions { MaxDegreeOfParallelism = 10 }, i =>
{
DataEntity x = entities.Take();
DoWork(i, x);
entities.Add(x);
});