无论如何,是否使用机器人加载/访问完整的网页(所有子页面)?

时间:2017-03-02 19:03:11

标签: caching web-crawler bots

目前我有一个网页,可以使用清漆缓存。但是,要使此缓存起作用,必须在从缓存开始加载之前访问该页面。我的问题是我在这个网站上有数千页,我不能一个一个地访问它们,因为这需要很多。是否有任何webcrawler或类似的东西来执行此任务?只是访问该页面,因为访问该页面会生成缓存文件,然后它的工作速度会更快。

1 个答案:

答案 0 :(得分:0)

只需使用在线站点地图生成器生成站点地图,它将抓取所有站点