标签: ruby parsing http tcp open-uri
我正在尝试使用我的解析器最大化每秒可以抓取的数据量。 解析器使用open-uri发送get请求,并使用nokogiri解析响应。 我尝试将我的代码放在线程中并进行分叉。但我仍然无法加快速度。
如何找出代码的瓶颈是什么? 当我同时提出更多请求时,为什么收到包装需要更长的时间? 一些过程需要3秒钟,其中一些需要30秒, 如何确定问题是操作系统,硬件还是代码问题?