Golang解码/解组JSON中的无效unicode

时间:2014-06-18 19:41:08

标签: json unicode go

我正在获取没有格式化的go的JSON文件。 例如,我可以拥有以下内容:

{"email": "\"blah.blah@blah.com\""}
{"email": "robert@gmail.com"}
{"name": "m\303\203ead"}

我们可以看到转义字符会出现问题。 使用json.Decode

使用:

{"name": "m\303\203ead"}

我收到错误:invalid character '3' in string escape code

我已经尝试了几种方法来规范化我的数据,例如通过传递一个字符串数组(它工作但边缘情况太多),甚至过滤转义字符。

最后,我来看了这篇文章:(http://blog.golang.org/normalization) 他们提出的解决方案似乎非常有趣。

我试过以下

isMn := func(r rune) bool {
    return unicode.Is(unicode.Mn, r)
}

t := transform.Chain(norm.NFC, transform.RemoveFunc(isMn), norm.NFD)

fileReader, err := bucket.GetReader(filename)

transformReader := transform.NewReader(fileReader, t)

decoder := json.NewDecoder(tReader)

for {
    var dataModel Model
    if err := decoder.Decode(&kmData); err == io.EOF {
        break
    } else {
      // DO SOMETHING
    }
}

Model为:

type Model struct {
    Name  string `json:"name" bson:"name"`
    Email string `json:"email" bson:"email"` 
}

我已经尝试过它的几种变体,但是还没有能够让它发挥作用。

所以我的问题是如何使用不同的编码轻松处理解码/解组JSON数据?知道,我无法控制这些JSON文件。

如果你正在读这篇文章,不管怎样,谢谢你。

1 个答案:

答案 0 :(得分:4)

您可以使用json.RawMessage代替stringjson.Decode不会尝试解码无效字符。

playground:http://play.golang.org/p/fB-38KGAO0

type Model struct {
    N  json.RawMessage `json:"name" bson:"name"`
}

func (m *Model) Name() string {
    return string(m.N)
}
func main() {
    s := "{\"name\": \"m\303\203ead\"}"
    r := strings.NewReader(s)
    d := json.NewDecoder(r)
    m := Model{}

    fmt.Println(d.Decode(&m))
    fmt.Println(m.Name())
}

编辑:嗯,你可以使用正则表达式,不确定对你来说有多可行http://play.golang.org/p/VYJKTKmiYm

func cleanUp(s string) string {
    re := regexp.MustCompile(`\b(\\\d\d\d)`)
    return re.ReplaceAllStringFunc(s, func(s string) string {
        return `\u0` + s[1:]
    })
}
func main() {
    s := "{\"name\": \"m\303\203ead\"}"
    s = cleanUp(s)
    r := strings.NewReader(s)
    d := json.NewDecoder(r)
    m := Model{}
    fmt.Println(d.Decode(&m))
    fmt.Println(m.Name())
}