谷歌爬行ajax

时间:2011-06-04 10:02:58

标签: ajax web-crawler

我有结果页面,其中结果加载了ajax,这意味着分页按钮正在调用JS。结果页面的链接很漂亮'/ result / sell / 06589',我会引导谷歌到这个页面,但有办法让爬行机器人点击分页按钮。

1 个答案:

答案 0 :(得分:0)

是的,让它们不是按钮,而是设置为按钮的链接。

另外,你需要确保它们在没有Javascript的情况下工作!爬虫通常没有Javascript。