Question

因此，我正在尝试从一个包含我学校俱乐部数据的站点中收集数据。我有一个很好的脚本，可以从站点上抓取表面水平面数据，但是，我可以通过单击每个俱乐部的“更多信息”链接（指向俱乐部的个人资料页面）来获得更多数据。我想从该页面（特别是facebook链接）中抓取数据。我该怎么办？

在下面，您将看到我目前的尝试。

url <- 'https://uws-community.symplicity.com/index.php?s=student_group'
page <- html_session(url)

get_table <- function(page, count) {
  #find group names
  name_text <- html_nodes(page,".grpl-name a") %>% html_text()
  df <- data.frame(name_text, stringsAsFactors = FALSE)

  #find text description
  desc_text <- html_nodes(page, ".grpl-purpose") %>% html_text()
  df$desc_text <- trimws(desc_text)

  #find emails
  #  find the parent nodes with html_nodes
  #  then find the contact information from each parent using html_node
  email_nodes<-html_nodes(page, "div.grpl-grp") %>% html_node( ".grpl-contact a") %>% html_text()
  df$emails<-email_nodes

  category_nodes <- html_nodes(page, "div.grpl-grp") %>% html_node(".grpl-type") %>% html_text()
  df$category<-category_nodes

  pic_nodes <-html_nodes(page, "div.grpl-grp") %>% html_node( ".grpl-logo img") %>% html_attr("src")
  df$logo <- paste0("https://uws-community.symplicity.com/", pic_nodes)

  more_info_nodes <- html_nodes(page, ".grpl-moreinfo a") %>% html_attr("href")
  df$more_info <- paste0("https://uws-community.symplicity.com/", more_info_nodes)

  sub_page <- page %>% follow_link(css = ".grpl-moreinfo a")

  df$fb <- html_node(sub_page, "#dnf_class_values_student_group__facebook__widget") %>% html_text()

  if(count != 44) {
    return (rbind(df, get_table(page %>% follow_link(css = ".paging_nav a:last-child"), count + 1)))
  } else{
    return (df)
  }
}


RSO_data <- get_table(page, 0)

我尝试获取Facebook页面的部分在这里：

 sub_page <- page %>% follow_link(css = ".grpl-moreinfo a")

  df$fb <- html_node(sub_page, "#dnf_class_values_student_group__facebook__widget") %>% html_text()

但是，这将返回错误。我究竟做错了什么？我有办法从每个俱乐部的单独页面抓取数据吗？

Answer 1

使用xpath根据其ID提取所需的节点。

df$fb <- html_node(sub_page, xpath = '//*[@id="dnf_class_values_student_group__facebook__widget"]') %>% html_text()

# > html_node(sub_page, xpath = '//*[@id="dnf_class_values_student_group__facebook__widget"]') %>% html_text()
  # [1] "https://www.facebook.com/17thavehouse/?fref=ts"

但是，您将需要在所有df $ name_text中“循环”以打开所有不同的子页面并提取Facebook链接。

如何从每个元素在RVest中具有的单独页面中Web抓取数据？

1 个答案: