我花了一天时间在互联网上搜索如何做到这一点的例子,但是我仍然在旋转,并且可以使用一点方向。我是html的新手,具有基本的R编码经验,并且对任何其他编码语言的经验很少。
我有一个500多个(可能更多)气象站的列表,我想从这个网站(https://fam.nwcg.gov/fam-web/kcfast/html/wxhmenu.htm)下载FW13格式的数据。在浏览器中,您填写表单,提交表单,它将开始将FW13文件下载到我的默认下载文件夹。
我的目标是使用R填写html表单,提交,然后接受将结果文件下载到定义的位置。表单本身由文本和单选按钮组成。以下是单个查询的示例:
电台ID:020207
开始日期:2000-01-01
结束日期:2017-12-31
观察类型:每小时
日程安排选项:立即运行
我沿着RCurl和rvest包的兔子洞走下去,甚至开始试用rSelenium。我见过的大多数例子都是直接从网站上抓取信息,但我只想接受下载生成的文件。
如果我只能提交一个请求并下载单个文件,我相信我可以弄清楚如何使用站点ID列表来循环,以实现我所需要的。
我为此处没有任何示例代码而道歉。我的所有试验都是在黑暗中盲目拍摄,我甚至不确定我是否使用正确的软件包来完成这项任务。非常感谢任何帮助或指导!
答案 0 :(得分:7)
library(httr)
library(tidyverse)
POST(
url = "https://fam.nwcg.gov/FAMCognosRESTServices/rest/cognos/anonymous/reports/FW13",
encode = "json",
body = list(
p_end_date = "2017-12-31",
p_obs_type = "Hourly",
p_start_date = "2000-01-01",
p_station_id = "170701",
reportName = "",
reportSched = FALSE,
reportTime = ""
)
) -> res
out <- content(res)
readr::read_fwf(
file = out$report,
fwf_widths(
widths = c(3, 6, 8, 4, 1, 1, 3, 3, 3, 3, 2, 3, 3, 3, 3, 2, 5, 1, 2, 2, 1, 1, 1, 4, 3, 3, 1),
col_names = c("w13", "sta_id", "obs_dt", "obs_tm", "obs_type", "sow", "dry_temp", "rh",
"wind_dir", "wind_sp", "fuel_10hr", "temp_max", "temp_min", "rh_max",
"rh_min", "pp_dur", "pp_amt", "wet", "grn_gr", "grn_sh", "moist_tpe",
"meas_type", "season_cd", "solar_radiation", "wind_dir_peak",
"wind_speed_peak", "snow_flg")
),
skip = 1
) %>%
glimpse()
## Observations: 1,059
## Variables: 27
## $ w13 <chr> "W13", "W13", "W13", "W...
## $ sta_id <int> 170701, 170701, 170701,...
## $ obs_dt <int> 20000102, 20000103, 200...
## $ obs_tm <int> 1300, 1300, 1300, 1300,...
## $ obs_type <chr> "O", "O", "O", "O", "O"...
## $ sow <int> 3, 1, 4, 0, 1, 5, 1, 7,...
## $ dry_temp <int> 44, 40, 48, 26, 25, 37,...
## $ rh <int> 66, 50, 100, 51, 53, 93...
## $ wind_dir <int> 230, 360, 230, 360, 120...
## $ wind_sp <int> 2, 10, 13, 14, 5, 0, 9,...
## $ fuel_10hr <int> NA, NA, NA, NA, NA, NA,...
## $ temp_max <int> 48, 52, 51, 54, 29, 37,...
## $ temp_min <int> 10, 36, 28, 23, 8, 22, ...
## $ rh_max <int> 100, 100, 100, 100, 80,...
## $ rh_min <int> 60, 50, 100, 51, 38, 93...
## $ pp_dur <int> 0, 0, 13, 8, 0, 8, 0, 0...
## $ pp_amt <int> 0, 0, 150, 1020, 0, 100...
## $ wet <chr> "N", "N", "Y", "Y", "N"...
## $ grn_gr <chr> NA, NA, NA, NA, NA, NA,...
## $ grn_sh <chr> NA, NA, NA, NA, NA, NA,...
## $ moist_tpe <int> 2, 2, 2, 2, 2, 2, 2, 2,...
## $ meas_type <int> 1, 1, 1, 1, 1, 1, 1, 1,...
## $ season_cd <chr> NA, NA, NA, NA, NA, NA,...
## $ solar_radiation <chr> NA, NA, NA, NA, NA, NA,...
## $ wind_dir_peak <chr> NA, NA, NA, NA, NA, NA,...
## $ wind_speed_peak <chr> NA, NA, NA, NA, NA, NA,...
## $ snow_flg <chr> "N", "N", "N", "N", "N"...