我想抓下以下网页:
http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/
但编码存在一些问题:
library(rvest)
URL = 'http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/'
read_html(URL)
eval(substitute(expr), envir, enclos)
中的错误: 由于输入错误,输入转换失败,字节0xFA 0xB1 0x90 0xE7 [6003]
该页面显然是日文;前三页不需要编码,例如:
read_html('http://www.oricon.co.jp/rank/js/w/2017-01-16/p/2/')
# {xml_document}
# <html>
# [1] <head prefix="og: http://ogp.me/ns# fb: http://ogp.me/ns/fb#">\n <meta charset="shi ...
# [2] <body id="container"> \n<script src="//ajax.googleapis.com/ajax/libs/jquery/1.11 ...
此页面的行为符合预期,我可以毫无问题地提取我想要的内容。
我尝试使用Hadley在rvest
问题跟踪器here上建议的方法更明确地使用编码:
library(httr)
guess_encoding(content(GET(URL), 'raw'))
# encoding language confidence
# 1 ISO-8859-1 pt 0.72
# 2 ISO-8859-2 ro 0.44
# 3 UTF-8 0.10
# 4 Shift_JIS ja 0.10
# 5 GB18030 zh 0.10
# 6 EUC-JP ja 0.10
# 7 EUC-KR ko 0.10
# 8 Big5 zh 0.10
# 9 ISO-8859-9 tr 0.01
这些都不对。除Shift_JIS
和EUC-JP
之外的所有语言都是错误的,但这两种语言都会产生类似的错误(麻烦的字节代码不同):
read_html(URL, encoding = 'Shift_JIS')
eval(substitute(expr), envir, enclos)
中的错误: 由于输入错误,输入转换失败,字节0xFA 0xB1 0x90 0xE7 [6003]
read_html(URL, encoding = 'EUC-JP')
eval(substitute(expr), envir, enclos)
中的错误: 由于输入错误,输入转换失败,字节0x8F 0x54 0x8A 0xD4 [6003]
使用其他一些建议的编码不会产生错误,本身,但输出是gobbledygook:
cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
read_html(URL, encoding = 'ISO-8859-1') %>%
html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>%
html_text %>% tail(6)
# [1] "\u0082æ\u0082Ñ\u0082·\u0082Ä"
# [2] "\u0083n\u0083b\u0083s\u0081[\u0083G\u0083\u0093\u0083h"
# [3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 \u0083T\u0083}\u0083J\u0083j!!"
# [4] "Dear Bride"
# [5] "Fantastic Time"
# [6] "Hey Ho"
罗马字母字符显得很好,但平假名/汉字/片假名已丢失/损坏。
是否有guess_encoding
未能提及的编码可以解决我的问题?有没有办法弄清楚页面上的哪些字符导致问题,并希望排除它们? 6003在错误消息中的含义是什么?
sessionInfo
包版本参考:
# R version 3.3.1 (2016-06-21)
# Platform: x86_64-pc-linux-gnu (64-bit)
# Running under: Ubuntu 14.04.3 LTS
#
# locale:
# [1] LC_CTYPE=en_US.UTF-8 LC_NUMERIC=C LC_TIME=en_US.UTF-8
# [4] LC_COLLATE=en_US.UTF-8 LC_MONETARY=en_US.UTF-8 LC_MESSAGES=en_US.UTF-8
# [7] LC_PAPER=en_US.UTF-8 LC_NAME=C LC_ADDRESS=C
# [10] LC_TELEPHONE=C LC_MEASUREMENT=en_US.UTF-8 LC_IDENTIFICATION=C
#
# attached base packages:
# [1] stats graphics grDevices utils datasets methods base
#
# other attached packages:
# [1] rvest_0.3.2.9000 xml2_1.1.0.9000
#
# loaded via a namespace (and not attached):
# [1] httr_1.2.1 magrittr_1.5 R6_2.1.3 tools_3.3.1 withr_1.0.2
# [6] curl_1.2 Rcpp_0.12.9 memoise_1.0.0 knitr_1.15.1 git2r_0.18.0
# [11] digest_0.6.11 devtools_1.12.0
答案 0 :(得分:3)
我们在评论中进行了讨论:编码应为Shift_JISX0213
,因为Shift_JIS
某种程度上不是平台/设置独立的。
require(rvest)
url <- "http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/"
cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
xml2::read_html(url, encoding = "Shift_JISX0213") %>%
html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>%
html_text %>% tail(6)
[1] "よびすて"
[2] "ハッピーエンド"
[3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 サマカニ!!"
[4] "Dear Bride"
[5] "Fantastic Time"
[6] "Hey Ho"
为什么shift_jis
应该做到这一点?即使它不适用于所有系统:
查看响应标头和源代码:
shift_jis
和Shift_JISX0213
通过以下设置为我工作:macOS Sierra 10.12.2
Session info --------------------------------------------------------------------------------------
setting value
version R version 3.3.1 (2016-06-21)
system x86_64, darwin13.4.0
ui RStudio (1.0.44)
language (EN)
collate en_US.UTF-8
tz Europe/Vienna
date 2017-01-16
Packages ------------------------------------------------------------------------------------------
package * version date source
curl 2.3 2016-11-24 cran (@2.3)
devtools 1.12.0 2016-06-24 CRAN (R 3.3.0)
digest 0.6.11 2017-01-03 cran (@0.6.11)
httr 1.2.1 2016-07-03 CRAN (R 3.2.5)
magrittr 1.5 2014-11-22 CRAN (R 3.3.0)
memoise 1.0.0 2016-01-29 CRAN (R 3.2.3)
R6 2.2.0 2016-10-05 CRAN (R 3.3.0)
Rcpp 0.12.9 2017-01-15 Github (RcppCore/Rcpp@f57467b)
rvest * 0.3.2.9000 2017-01-01 local
selectr 0.3-0 2016-08-30 CRAN (R 3.3.0)
stringi 1.1.2 2016-10-01 CRAN (R 3.3.0)
stringr 1.1.0 2016-08-19 CRAN (R 3.3.0)
withr 1.0.2 2016-06-20 CRAN (R 3.3.0)
XML 3.98-1.5 2016-11-10 CRAN (R 3.3.2)
xml2 * 1.1.0.9000 2017-01-15 Github (hadley/xml2@d36883c)