我正在为一个潜在的大批量图像编写一个简单的应用程序(对于我的妻子而言:-P),它可以进行一些图像处理(调整大小,时间戳等)。所以我正在编写一个可以同步和异步执行此操作的库。我决定使用Event-based Asynchronous Pattern。使用此模式时,您需要在工作完成后引发事件。这是我知道什么时候完成的问题。所以基本上,在我的DownsizeAsync方法(缩小图像的异步方法)中我做的是这样的:
public void DownsizeAsync(string[] files, string destination)
{
foreach (var name in files)
{
string temp = name; //countering the closure issue
ThreadPool.QueueUserWorkItem(f =>
{
string newFileName = this.DownsizeImage(temp, destination);
this.OnImageResized(newFileName);
});
}
}
现在棘手的部分是知道什么时候它们都完整了。
以下是我的考虑:使用像这里的ManualResetEvents:http://msdn.microsoft.com/en-us/library/3dasc8as%28VS.80%29.aspx但我遇到的问题是你只能等待64或更少的事件。我可能会有更多的图像。
第二个选项:有一个计数器来计算已完成的图像,并在计数达到总数时提高事件:
public void DownsizeAsync(string[] files, string destination)
{
foreach (var name in files)
{
string temp = name; //countering the closure issue
ThreadPool.QueueUserWorkItem(f =>
{
string newFileName = this.DownsizeImage(temp, destination);
this.OnImageResized(newFileName);
total++;
if (total == files.Length)
{
this.OnDownsizeCompleted(new AsyncCompletedEventArgs(null, false, null));
}
});
}
}
private volatile int total = 0;
现在感觉“hacky”,我不完全确定这是否安全。
所以,我的问题是,这样做的最佳方法是什么?有没有其他方法来同步所有线程?我不应该使用ThreadPool吗?谢谢!
更新根据评论中的反馈和一些答案,我决定采用这种方法:
首先,我创建了一个扩展方法,将枚举批量化为“批次”:
public static IEnumerable<IEnumerable<T>> GetBatches<T>(this IEnumerable<T> source, int batchCount)
{
for (IEnumerable<T> s = source; s.Any(); s = s.Skip(batchCount))
{
yield return s.Take(batchCount);
}
}
基本上,如果你做这样的事情:
foreach (IEnumerable<int> batch in Enumerable.Range(1, 95).GetBatches(10))
{
foreach (int i in batch)
{
Console.Write("{0} ", i);
}
Console.WriteLine();
}
你得到这个输出:
1 2 3 4 5 6 7 8 9 10
11 12 13 14 15 16 17 18 19 20
21 22 23 24 25 26 27 28 29 30
31 32 33 34 35 36 37 38 39 40
41 42 43 44 45 46 47 48 49 50
51 52 53 54 55 56 57 58 59 60
61 62 63 64 65 66 67 68 69 70
71 72 73 74 75 76 77 78 79 80
81 82 83 84 85 86 87 88 89 90
91 92 93 94 95
这个想法(正如评论中指出的那样)没有必要为每个图像创建一个单独的线程。因此,我将图像批量转换为[machine.cores * 2]批次。然后,我将使用我的第二种方法,这只是为了保持计数器的运行,当计数器达到我期望的总数时,我会知道我已经完成了。
我之所以确信它实际上是线程安全的,是因为我根据MSDN将总变量标记为volatile:
通常使用挥发性改性剂 对于访问的字段 多线程没有使用 锁定语句以序列化访问。 使用volatile修饰符可确保 一个线程检索最多 另一个人写的最新价值 螺纹
意味着我应该明确(如果没有,请告诉我!!)
所以这是我要去的代码:
public void DownsizeAsync(string[] files, string destination)
{
int cores = Environment.ProcessorCount * 2;
int batchAmount = files.Length / cores;
foreach (var batch in files.GetBatches(batchAmount))
{
var temp = batch.ToList(); //counter closure issue
ThreadPool.QueueUserWorkItem(b =>
{
foreach (var item in temp)
{
string newFileName = this.DownsizeImage(item, destination);
this.OnImageResized(newFileName);
total++;
if (total == files.Length)
{
this.OnDownsizeCompleted(new AsyncCompletedEventArgs(null, false, null));
}
}
});
}
}
我很乐意接受反馈,因为我绝不是多线程专家,所以如果有人对此有任何疑问,或者有更好的想法,请告诉我。 (是的,这只是一个自制的应用程序,但我对如何利用我在这里获得的知识来改进我们在工作中使用的搜索/索引服务有一些想法。)现在我将这个问题保持开放直到我我觉得我正在使用正确的方法。谢谢大家的帮助。
答案 0 :(得分:11)
最简单的方法是创建新线程,然后在每个线程上调用Thread.Join
。你可以使用信号量或类似信号 - 但是创建新线程可能更容易。
在.NET 4.0中,您可以使用Parallel Extensions轻松完成任务。
作为 使用线程池的另一种选择,您可以创建一个委托并在其上调用BeginInvoke
,以返回IAsyncResult
- 然后您可以获取{{ 3}}通过WaitHandle
属性获取每个结果,并调用AsyncWaitHandle
。
编辑:正如评论中所指出的,在某些实现中,您一次只能使用多达64个句柄调用WaitAll
。替代方案可以依次调用每个WaitOne
,或者批量调用WaitAll
。它不会真正重要,只要你从一个不会阻塞线程池的线程中做到这一点。另请注意,您无法从STA线程调用WaitAll
。
答案 1 :(得分:11)
您仍然希望使用ThreadPool,因为它将管理它同时运行的线程数。我最近遇到了类似的问题并解决了这个问题:
var dispatcher = new ThreadPoolDispatcher();
dispatcher = new ChunkingDispatcher(dispatcher, 10);
foreach (var image in images)
{
dispatcher.Add(new ResizeJob(image));
}
dispatcher.WaitForJobsToFinish();
IDispatcher和IJob看起来像这样:
public interface IJob
{
void Execute();
}
public class ThreadPoolDispatcher : IDispatcher
{
private IList<ManualResetEvent> resetEvents = new List<ManualResetEvent>();
public void Dispatch(IJob job)
{
var resetEvent = CreateAndTrackResetEvent();
var worker = new ThreadPoolWorker(job, resetEvent);
ThreadPool.QueueUserWorkItem(new WaitCallback(worker.ThreadPoolCallback));
}
private ManualResetEvent CreateAndTrackResetEvent()
{
var resetEvent = new ManualResetEvent(false);
resetEvents.Add(resetEvent);
return resetEvent;
}
public void WaitForJobsToFinish()
{
WaitHandle.WaitAll(resetEvents.ToArray() ?? new ManualResetEvent[] { });
resetEvents.Clear();
}
}
然后使用装饰器来分块使用ThreadPool:
public class ChunkingDispatcher : IDispatcher
{
private IDispatcher dispatcher;
private int numberOfJobsDispatched;
private int chunkSize;
public ChunkingDispatcher(IDispatcher dispatcher, int chunkSize)
{
this.dispatcher = dispatcher;
this.chunkSize = chunkSize;
}
public void Dispatch(IJob job)
{
dispatcher.Dispatch(job);
if (++numberOfJobsDispatched % chunkSize == 0)
WaitForJobsToFinish();
}
public void WaitForJobsToFinish()
{
dispatcher.WaitForJobsToFinish();
}
}
IDispatcher抽象非常适合交换线程技术。我有一个SingleThreadedDispatcher的另一个实现,你可以创建像Jon Skeet建议的ThreadStart版本。然后很容易运行每一个,看看你得到了什么样的性能。调试代码或不想杀死盒子上的处理器时,SingleThreadedDispatcher很好。
编辑:我忘了为ThreadPoolWorker添加代码:
public class ThreadPoolWorker
{
private IJob job;
private ManualResetEvent doneEvent;
public ThreadPoolWorker(IJob job, ManualResetEvent doneEvent)
{
this.job = job;
this.doneEvent = doneEvent;
}
public void ThreadPoolCallback(object state)
{
try
{
job.Execute();
}
finally
{
doneEvent.Set();
}
}
}
答案 2 :(得分:5)
最简单有效的解决方案是使用计数器并使其线程安全。这将消耗更少的内存,并可以扩展到更多的线程
这是一个示例
int itemCount = 0;
for (int i = 0; i < 5000; i++)
{
Interlocked.Increment(ref itemCount);
ThreadPool.QueueUserWorkItem(x=>{
try
{
//code logic here.. sleep is just for demo
Thread.Sleep(100);
}
finally
{
Interlocked.Decrement(ref itemCount);
}
});
}
while (itemCount > 0)
{
Console.WriteLine("Waiting for " + itemCount + " threads...");
Thread.Sleep(100);
}
Console.WriteLine("All Done!");
答案 3 :(得分:2)
.Net 4.0使多线程变得更加容易(尽管你仍然可以用副作用拍摄自己)。
答案 4 :(得分:2)
我已经使用SmartThreadPool取得了很大的成功来应对这个问题。还有一个关于装配的Codeplex网站。
SmartThreadPool可以帮助解决其他问题,例如某些线程无法在同一时间运行,而其他线程则可以。
答案 5 :(得分:2)
我使用静态实用程序方法来检查所有单独的等待句柄。
public static void WaitAll(WaitHandle[] handles)
{
if (handles == null)
throw new ArgumentNullException("handles",
"WaitHandle[] handles was null");
foreach (WaitHandle wh in handles) wh.WaitOne();
}
然后在我的主线程中,我创建了一个这些等待句柄的列表,并且对于我放入ThreadPool队列的每个委托,我将等待句柄添加到List ...
List<WaitHandle> waitHndls = new List<WaitHandle>();
foreach (iterator logic )
{
ManualResetEvent txEvnt = new ManualResetEvent(false);
ThreadPool.QueueUserWorkItem(
delegate
{
try { // Code to process each task... }
// Finally, set each wait handle when done
finally { lock (locker) txEvnt.Set(); }
});
waitHndls.Add(txEvnt); // Add wait handle to List
}
util.WaitAll(waitHndls.ToArray()); // Check all wait Handles in List
答案 6 :(得分:1)
另一种选择是使用Pipe。
将所有要完成的工作发布到管道,然后从每个线程的管道中读取数据。当管道是空的,你就完成了,线程自己结束,每个人都很高兴(当然要确保你先完成所有的工作,然后消耗它)
答案 7 :(得分:1)
我建议将未触摸的图像放入队列中,当您从队列中读取时,启动一个线程并将其System.Threading.Thread.ManagedThreadId
属性与文件名一起插入字典中。这样,您的UI可以列出待处理文件和活动文件。
当每个线程完成时,它会调用一个回调例程,并传回其ManagedThreadId。此回调(作为线程的委托传递)从字典中删除线程的id,从队列中启动另一个线程,并更新UI。
当队列和字典都为空时,你就完成了。
稍微复杂一点但是这样你获得了一个响应式用户界面,你可以轻松控制活动线程的数量,你可以看到飞行中的内容。收集统计数据。熟悉WPF并为每个文件设置进度条。她不禁印象深刻。