如何抓取页面但不在nutch 2.1中获取视频/图像内容?

时间:2013-01-10 16:29:41

标签: solr lucene web-crawler nutch

我想抓取一个页面,我只需要采用HTML本身,避免所有图像/视频等... 是否有可能做到这一点? 提前谢谢。

1 个答案:

答案 0 :(得分:1)

检查regex-urlfilter.txt文件。

您可以包含您不想索引的文件扩展名的扩展名。 e.g。

# skip image and other suffixes we can't yet parse
# for a more extensive coverage use the urlfilter-suffix plugin
-\.(gif|GIF|jpg|JPG|png|PNG|ico|ICO|css|CSS|sit|SIT|eps|EPS|wmf|WMF|zip|ZIP|ppt|PPT|mpg|MPG|xls|XLS|gz|GZ|rpm|RPM|tgz|TGZ|mov|MOV|exe|EXE|jpeg|JPEG|bmp|BMP|js|JS)$