缓存read_html

时间:2018-08-21 13:45:02

标签: r caching web-scraping memoise

我试图缓存read_html/xml2以避免在开发期间淹没服务器

library(digest)
library(xml2)
url = "https://en.wikipedia.org"
cache = digest(url)
if (file.exists(cache)) {
  cat("Reading from cache\n")
  html = readRDS(cache)
} else {
  #Sys.sleep(3)
  cat("Reading from web\n")
  html = xml2::read_html(url) 
  saveRDS(html, file = cache)
}
html

此操作失败,因为仅外部指针存储在文件中,并且在重新运行时不再有效。当我在memoise上使用read_html时,会发生相同的问题。

1 个答案:

答案 0 :(得分:1)

您始终可以使用as_listas_xml_document来回转换。

library(digest)
library(xml2)
url = "https://en.wikipedia.org"
cache = digest(url)
if (file.exists(cache)) {
  cat("Reading from cache\n")
  html = as_xml_document(readRDS(cache))
} else {
  cat("Reading from web\n")
  html = read_html(url) 
  saveRDS(as_list(html), file = cache)
}
html

或者,查看read_xmlwrite_xml