包含我需要的数据的页面已将其结构更改为新的分页格式。我正在为页面更新我的刮刀。
我无法理解如何从所有不同页面收集数据。
要抓取的页面是:http://eserver.goutsi.com:8080/DPW230.cgi
我知道如何收集表格中的数据,但我无法弄清楚如何处理分页。
这是我原来的剧本:
scrape_actor = Mechanize.new
page = scrape_actor.get("http://loads.goutsi.com:8080/wntv5/BKLoad")
rows = page.body.to_s.split("</tr>")
rows.each do |row|
if row.include? "bgcolor='#f5f5f5'"
columns = row.split("</td>")
i = 0
while i < columns.count
columns[i] = columns[i].gsub(%r{</?[^>]+?>},'').gsub(/[\n\t\r ]+/,'').gsub(" ",'')
i+=1
end
username = "UTSI"
origin = columns[0].gsub(" ","")
pickup = Chronic.parse(columns[1]+"/"+Time.now.strftime("%Y"))
dest = columns[3]
comments = "miles: #{columns[4]}, phone: #{columns[9]}, other: #{columns[11]}"
equipment = columns[6]
ltl = false
ltl = true if columns[7] == "LTL"
Scrape.post_load(username,origin,dest,pickup,'',ltl,equipment,comments,'','','')
end
end
答案 0 :(得分:0)
当您点击其中一个页面链接时,页面上的javascript会使用新的页码触发发送请求到相同的路径。
可在http://eserver.goutsi.com:8080/js/LoadBoard.js
的js文件中找到function gotoPage(pageNumber)
{
document.getElementById("PageNbr").value= pageNumber; // Set new page number
document.getElementById("PageDir").value="R"; // Refresh
document.getElementById("theForm").submit();
}
该代码提交此表单:
<form action="/DPW230.cgi" method="post" id="theForm">...
哪个领域:
<input type="hidden" id="PageDir" name="PageDir" value=" "><input type="hidden" id="PageNbr" name="PageNbr" value="1">
此value
在同一个javascript中更新。
这意味着您需要对此网址发布请求,并且连续的网页编号为参数 - 然后分析每个页面,然后汇总结果。