Question

我想抓下以下网页：

http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/

但编码存在一些问题：

library(rvest)
URL = 'http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/'
read_html(URL)

eval(substitute(expr), envir, enclos)中的错误：由于输入错误，输入转换失败，字节0xFA 0xB1 0x90 0xE7 [6003]

该页面显然是日文;前三页不需要编码，例如：

read_html('http://www.oricon.co.jp/rank/js/w/2017-01-16/p/2/')
# {xml_document}
# <html>
# [1] <head prefix="og: http://ogp.me/ns# fb: http://ogp.me/ns/fb#">\n  <meta charset="shi ...
# [2] <body id="container">&#13;\n<script src="//ajax.googleapis.com/ajax/libs/jquery/1.11 ...

此页面的行为符合预期，我可以毫无问题地提取我想要的内容。

我尝试使用Hadley在rvest问题跟踪器here上建议的方法更明确地使用编码：

library(httr)
guess_encoding(content(GET(URL), 'raw'))
#     encoding language confidence
# 1 ISO-8859-1       pt       0.72
# 2 ISO-8859-2       ro       0.44
# 3      UTF-8                0.10
# 4  Shift_JIS       ja       0.10
# 5    GB18030       zh       0.10
# 6     EUC-JP       ja       0.10
# 7     EUC-KR       ko       0.10
# 8       Big5       zh       0.10
# 9 ISO-8859-9       tr       0.01

这些都不对。除Shift_JIS和EUC-JP之外的所有语言都是错误的，但这两种语言都会产生类似的错误（麻烦的字节代码不同）：

read_html(URL, encoding = 'Shift_JIS')

eval(substitute(expr), envir, enclos)中的错误：由于输入错误，输入转换失败，字节0xFA 0xB1 0x90 0xE7 [6003]

read_html(URL, encoding = 'EUC-JP')

eval(substitute(expr), envir, enclos)中的错误：由于输入错误，输入转换失败，字节0x8F 0x54 0x8A 0xD4 [6003]

使用其他一些建议的编码不会产生错误，本身，但输出是gobbledygook：

cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
read_html(URL, encoding = 'ISO-8859-1') %>% 
  html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>% 
  html_text %>% tail(6)
# [1] "\u0082æ\u0082Ñ\u0082·\u0082Ä"                                                      
# [2] "\u0083n\u0083b\u0083s\u0081[\u0083G\u0083\u0093\u0083h"                            
# [3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 \u0083T\u0083}\u0083J\u0083j!!"
# [4] "Dear Bride"                                                                        
# [5] "Fantastic Time"                                                                    
# [6] "Hey Ho"

罗马字母字符显得很好，但平假名/汉字/片假名已丢失/损坏。

是否有guess_encoding未能提及的编码可以解决我的问题？有没有办法弄清楚页面上的哪些字符导致问题，并希望排除它们？ 6003在错误消息中的含义是什么？

sessionInfo包版本参考：

# R version 3.3.1 (2016-06-21)
# Platform: x86_64-pc-linux-gnu (64-bit)
# Running under: Ubuntu 14.04.3 LTS
# 
# locale:
#  [1] LC_CTYPE=en_US.UTF-8       LC_NUMERIC=C               LC_TIME=en_US.UTF-8       
#  [4] LC_COLLATE=en_US.UTF-8     LC_MONETARY=en_US.UTF-8    LC_MESSAGES=en_US.UTF-8   
#  [7] LC_PAPER=en_US.UTF-8       LC_NAME=C                  LC_ADDRESS=C              
# [10] LC_TELEPHONE=C             LC_MEASUREMENT=en_US.UTF-8 LC_IDENTIFICATION=C       
# 
# attached base packages:
# [1] stats     graphics  grDevices utils     datasets  methods   base     
# 
# other attached packages:
# [1] rvest_0.3.2.9000 xml2_1.1.0.9000 
# 
# loaded via a namespace (and not attached):
#  [1] httr_1.2.1      magrittr_1.5    R6_2.1.3        tools_3.3.1     withr_1.0.2    
#  [6] curl_1.2        Rcpp_0.12.9     memoise_1.0.0   knitr_1.15.1    git2r_0.18.0   
# [11] digest_0.6.11   devtools_1.12.0

Answer 1

我们在评论中进行了讨论：编码应为Shift_JISX0213，因为Shift_JIS某种程度上不是平台/设置独立的。

require(rvest)
url <- "http://www.oricon.co.jp/rank/js/w/2017-01-16/p/4/"
cell.xp = '//div[@class="inner" and ./a[contains(@href, "prof")]]'
xml2::read_html(url, encoding = "Shift_JISX0213") %>% 
  html_nodes(xpath = cell.xp) %>% html_nodes('h2') %>% 
  html_text %>% tail(6)

[1] "よびすて"                                                      
[2] "ハッピーエンド"                                                
[3] "THE IDOLM@STER CINDERELLA GIRLS STARLIGHT MASTER 07 サマカニ!!"
[4] "Dear Bride"                                                    
[5] "Fantastic Time"                                                
[6] "Hey Ho"

为什么shift_jis应该做到这一点？即使它不适用于所有系统：

查看响应标头和源代码：

shift_jis和Shift_JISX0213通过以下设置为我工作：macOS Sierra 10.12.2

Session info --------------------------------------------------------------------------------------
 setting  value                       
 version  R version 3.3.1 (2016-06-21)
 system   x86_64, darwin13.4.0        
 ui       RStudio (1.0.44)            
 language (EN)                        
 collate  en_US.UTF-8                 
 tz       Europe/Vienna               
 date     2017-01-16                  

Packages ------------------------------------------------------------------------------------------
 package  * version    date       source                        
 curl       2.3        2016-11-24 cran (@2.3)                   
 devtools   1.12.0     2016-06-24 CRAN (R 3.3.0)                
 digest     0.6.11     2017-01-03 cran (@0.6.11)                
 httr       1.2.1      2016-07-03 CRAN (R 3.2.5)                
 magrittr   1.5        2014-11-22 CRAN (R 3.3.0)                
 memoise    1.0.0      2016-01-29 CRAN (R 3.2.3)                
 R6         2.2.0      2016-10-05 CRAN (R 3.3.0)                
 Rcpp       0.12.9     2017-01-15 Github (RcppCore/Rcpp@f57467b)
 rvest    * 0.3.2.9000 2017-01-01 local                         
 selectr    0.3-0      2016-08-30 CRAN (R 3.3.0)                
 stringi    1.1.2      2016-10-01 CRAN (R 3.3.0)                
 stringr    1.1.0      2016-08-19 CRAN (R 3.3.0)                
 withr      1.0.2      2016-06-20 CRAN (R 3.3.0)                
 XML        3.98-1.5   2016-11-10 CRAN (R 3.3.2)                
 xml2     * 1.1.0.9000 2017-01-15 Github (hadley/xml2@d36883c)

调查编码错误

1 个答案: