我在twitter上创建了一个应用程序,我可以进行搜索并获得结果。 例如,当我搜索#starbucks时,它已发现25.000条推文,但最大寻呼限制 是每页100条记录,这意味着我必须浏览250页以插入theese的推文 到我的数据库。 Twitter返回nextpage QueryString它很好,结果就像这样
下一页从101到199开始..
我尝试了元刷新后自动导航,发布表单下一页链接后 来到元刷新网址http://example.com?q=#starbucks&count=100&max_id=xxxxxxxxxxxx/“>
打开下一页后和60秒,此过程一直持续到最后一页。
我的问题是如何使用cronjob(vps,vds或托管)在Linux上执行此操作 我可以请求第一页,因为表单使用get请求,但是 linux可以自动导航页面吗?
谢谢。