Question

我有各种字符串，例如xc3\x93\xc5\x81是已编码的UTF-8字符。我唯一可以访问的文件就是这些编码值。如何在R或python中将其解码为常规字符（而不是UTF-8 lang语）？

Answer 1

在R中，我们可以在Yammer Doc处使用@Jeroen函数，并进行较小的修改以处理\xnn而不是\unnnn

unescape_unicode <- function(x){
  #single string only
  stopifnot(is.character(x) && length(x) == 1)

  #find matches
  m <- gregexpr("(\\\\)+x[0-9a-z]{2}", x, ignore.case = TRUE)

  if(m[[1]][1] > -1){
    #parse matches
    p <- vapply(regmatches(x, m)[[1]], function(txt){
      gsub("\\", "\\\\", parse(text=paste0('"', txt, '"'))[[1]], fixed = TRUE, useBytes = TRUE)
    }, character(1), USE.NAMES = FALSE)

    #substitute parsed into original
    regmatches(x, m) <- list(p)
  }

  x
}

f <- tempfile()
cat("\\xc3\\x93\\xc5\\x81\n", file = f)
fpeek::peek_head(f)
#> \xc3\x93\xc5\x81

x <- readLines(f)
unlink(f)

unescape_unicode(x)
#> [1] "ÓŁ"

有趣的是，stringi::stri_escape_unicode给出了不同的结果，似乎将\xc3\x93误解为两个单独的字符（当应该只是一个"\xc3\x93" == "\u00d3"时，但我对于哪个约定决定了这一点，我感到困惑，我希望您能从评论中对该主题提供更清晰说明的人那里输入信息

stringi::stri_unescape_unicode(x)
#> [1] "Ã\u0093Å\u0081"

^{由https://stackoverflow.com/a/24958365/6197649（v0.2.1）于2019-04-15创建}

将utf8解码为python / R中的常规字符

1 个答案: