标签: web-scraping web-crawler import.io
当您运行import.io抓取工具时,它是否服从robots.txt文件?
robots.txt
答案 0 :(得分:3)
根据the faq,事实证明确实如此。
你坚持robots.txt吗? 的是
答案 1 :(得分:0)
是的,我们(也使用提取器和连接器)