使用MapReduce在c#中获取URL的响应

时间:2017-03-10 05:40:15

标签: c# .net hadoop mapreduce task-parallel-library

我有以下程序从数据库中获取超过1,00,000个url并使用C#HttpWebRequest对象获取响应并保存到数据库中。

要获得1,00,000个网址的响应需要很长时间才能在单个服务器上运行。我想把这个过程分成线程,并希望在多个服务器上运行。

可以在C#中使用线程和TPL在MapReduce中使用这种类型的代码吗?

$ cat foo
AS|REQ|XYZ|value=12
DF|REG|EXP|value=

0 个答案:

没有答案