如何使用搜索API自动抓取Twitter上的主题标签

时间:2013-10-30 08:32:59

标签: twitter twitter-oauth twitter-search

我在twitter上创建了一个应用程序,我可以进行搜索并获得结果。 例如,当我搜索#starbucks时,它已发现25.000条推文,但最大寻呼限制 是每页100条记录,这意味着我必须浏览250页以插入theese的推文 到我的数据库。 Twitter返回nextpage QueryString它很好,结果就像这样

  1. 鸣叫
  2. 鸣叫
  3. 鸣叫 ... 99.tweet 100.tweet
  4. 下一页从101到199开始..

    我尝试了元刷新后自动导航,发布表单下一页链接后 来到元刷新网址http://example.com?q=#starbucks&count=100&max_id=xxxxxxxxxxxx/“>

    打开下一页后

    和60秒,此过程一直持续到最后一页。

    我的问题是如何使用cronjob(vps,vds或托管)在Linux上执行此操作 我可以请求第一页,因为表单使用get请求,但是 linux可以自动导航页面吗?

    谢谢。

0 个答案:

没有答案