import.io抓取工具是否服从robots.txt?

时间:2014-05-19 09:39:03

标签: web-scraping web-crawler import.io

当您运行import.io抓取工具时,它是否服从robots.txt文件?

2 个答案:

答案 0 :(得分:3)

根据the faq,事实证明确实如此。

  

你坚持robots.txt吗?   的

答案 1 :(得分:0)

是的,我们(也使用提取器和连接器)