处理mongodb中的重音字符

时间:2015-05-01 18:51:07

标签: mongodb rest tomcat mapreduce non-ascii-characters

我一直在努力寻找一种处理重音字符的理想方式。

首先,我在mongo中插入(获取)之前使用这两种方法对文本进行编码(解码)。

function encode_utf8(s) {
  return unescape(encodeURIComponent(s));
}

function decode_utf8(s) {
  return decodeURIComponent(unescape(s));
}

当我从mongodb获取注释并显示它们时,此方法正常工作(ajax请求):

$.ajax({
    url : "http:www.mywebsite.com/comments",
    type : "get",
    data : "key=" + env.key + "&login=" + login,
    dataType : "json",
    success: function(response) { console.log(decode_utf8(reponse.texte)); /* yay works fine */ },
    error : function(jqXHR, textStatus, errorThrown) {}
});

但是当我使用下面的代码(MapReduce的地图功能)时,它不会处理重音:

String map = "function map() { "
                 + "var texte = decodeURIComponent(unescape(this.comment));"
                 + "var words = texte.match(/\\w+/g);" 

                 + "if(words) "
                 +     for(var i=0; i<words.length; i++) 
                 +         emit(words[i].toLowerCase(), 1);" 
             + "}"

Ex:结果为ùùdzedzed而不是dzedzed。 任何建议或解决方法都会很棒。

编辑:

我的mongo内容:

{“_ id”:ObjectId(“55460441e4b00700737c56cc”),“id”:“c0ab4be5-f4f3-4c73-a7a0-f6863b6ce6511430651969105”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ êtreoùréglemça“,”date“:”Sun May 03 13:19:29 CEST 2015“}

{“_ id”:ObjectId(“554612f1e4b0953aca0c0be0”),“id”:“aaa52859-5de6-469b-a17f-aa4615db77f71430655729171”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ Ãla“,”date“:”Sun May 03 14:22:09 CEST 2015“}

{“_ id”:ObjectId(“55461c21e4b0643ea96f7933”),“id”:“ba3ae7c0-39a6-4c77-86ec-d193e39759b71430658081921”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ voilÓ,”date“:”Sun May 03 15:01:21 CEST 2015“}

{“_ id”:ObjectId(“5547f5ede4b055c2ffb1a592”),“id”:“a9a1e7d4-c28d-4f9e-98d5-3fe7fba3bb5e1430779373121”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ vb vb vb“,”date“:”Tue May 05 00:42:53 CEST 2015“}

{“_ id”:ObjectId(“5547f5fbe4b055c2ffb1a593”),“id”:“b5ad2b7e-987f-4d32-b5ca-bc06bdc57f611430779387478”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ vb vb“,”date“:”Tue May 05 00:43:07 CEST 2015“}

{“_ id”:ObjectId(“5548b88ee4b029bc67d7a638”),“id”:“451e4e0d-c15a-4657-82c3-7760555b6c811430829198040”,“auteur_login”:“testlogin”,“auteur_id”:1,“comment”:“ ecrit n'importe quoi“,”date“:”Tue May 05 14:33:18 CEST 2015“}

{“_ id”:ObjectId(“554b9409e4b004c1b252f9cb”),“id”:“f36c3b49-72b1-48f4-ae92-a7933bc1e2761431016457515”,“auteur_login”:“moi12345”,“auteur_id”:9,“comment”:“ salut“,”date“:”Thu May 07 18:34:17 CEST 2015“}

{“_ id”:ObjectId(“554b941be4b004c1b252f9cd”),“id”:“1adc6788-32be-4c3a-bd73-16dad0b4bb741431016475777”,“auteur_login”:“moi12345”,“auteur_id”:9,“comment”:“ regregerhg“,”date“:”2007年5月7日18:34:35 CEST 2015“}

这就是结果:

“sfsdfs”:58.0更新

“ta”:58.0更新

“test1”:58.0更新

“teste”:9.666666666666666更新

“ton”:58.0更新

“tre”:29.0插入

“尝试”:58.0更新

“tudiant”:58.0插入

“tweed”:58.0更新

“une”:58.0更新

“va”:19.333333333333332更新

“vb”:29.0更新

“veux”:19.333333333333332更新

“vient”:58.0更新

“voil”:58.0插入

示例:我应该获取voilà而不是voil

的最后一行

1 个答案:

答案 0 :(得分:2)

因此,基本上,您的“encode_utf8”方法会将UTF-8字符串转换为8位字节。你为什么这样做?

([de / en] codeURIComponent()使用UTF-8编码,[un]编码使用ISO-8859-1)

对于对称性,您的“decode_utf8(s)”应为

return decodeURIComponent(escape(s));

而不是“unes​​cape”。

请注意,不推荐使用escape()和unescape()Javascript方法

https://developer.mozilla.org/en-US/docs/Web/JavaScript/Reference/Global_Objects/escape

https://developer.mozilla.org/en-US/docs/Web/JavaScript/Reference/Global_Objects/unescape