如何在Javascript中判断字符串是否包含多字节字符?

时间:2011-02-02 16:56:22

标签: javascript string internationalization multibyte

是否可以在Javascript中检测字符串是否包含多字节字符?如果是这样,是否有可能分辨出哪些?

我遇到的问题是这个(如果Unicode字符不适合你,我会道歉)

s = "";

alert(s.length);    // '2'
alert(s.charAt(0)); // '��'
alert(s.charAt(1)); // '��'

在这里编辑一点清晰(我希望) 正如我现在所理解的那样,Javascript中的所有字符串都表示为一系列的UTF-16代码点,这意味着常规字符实际上占用了2个字节(16位),所以我在标题中使用“多字节”有点偏。某些字符不属于基本多语言平面(BMP),例如上例中的字符串,因此它们占用两个代码点(32位)。这是我问的问题。我也没有编辑原始标题,因为对于那些对这些东西知之甚少的人(因此会搜索SO的信息),“多字节”会有意义。

1 个答案:

答案 0 :(得分:26)

JavaScript字符串是UCS-2编码的,但可以使用两个16位表示基本多语言窗格(U+0000 - U+D7FFU+E000 - U+FFFF)之外的Unicode代码点数字(UTF-16 代理对),其中第一个必须在U+D800 - U+DFFF范围内。

基于此,很容易检测到一个字符串是否包含任何位于Basic Multilingual Plane之外的字符(我认为你要问的是:你希望能够识别一个字符串是否包含任何字符在JavaScript表示为单个字符的代码点范围之外):

function containsSurrogatePair(str) {
    return /[\uD800-\uDFFF]/.test(str);
}

alert( containsSurrogatePair("foo") ); // false
alert( containsSurrogatePair("f") ); // true

确切地确定字符串中包含哪些代码点有点困难,需要UTF-16解码器。以下内容将字符串转换为Unicode代码点数组:

var getStringCodePoints = (function() {
    function surrogatePairToCodePoint(charCode1, charCode2) {
        return ((charCode1 & 0x3FF) << 10) + (charCode2 & 0x3FF) + 0x10000;
    }

    // Read string in character by character and create an array of code points
    return function(str) {
        var codePoints = [], i = 0, charCode;
        while (i < str.length) {
            charCode = str.charCodeAt(i);
            if ((charCode & 0xF800) == 0xD800) {
                codePoints.push(surrogatePairToCodePoint(charCode, str.charCodeAt(++i)));
            } else {
                codePoints.push(charCode);
            }
            ++i;
        }
        return codePoints;
    }
})();

alert( getStringCodePoints("f").join(",") ); // 102,119558